drivers/net/via-velocity.c

   1 /*
   2  * This code is derived from the VIA reference driver (copyright message
   3  * below) provided to Red Hat by VIA Networking Technologies, Inc. for
   4  * addition to the Linux kernel.
   5  *
   6  * The code has been merged into one source file, cleaned up to follow
   7  * Linux coding style,  ported to the Linux 2.6 kernel tree and cleaned
   8  * for 64bit hardware platforms.
   9  *
  10  * TODO
  11  *      rx_copybreak/alignment
  12  *      Scatter gather
  13  *      More testing
  14  *
  15  * The changes are (c) Copyright 2004, Red Hat Inc. <alan@redhat.com>
  16  * Additional fixes and clean up: Francois Romieu
  17  *
  18  * This source has not been verified for use in safety critical systems.
  19  *
  20  * Please direct queries about the revamped driver to the linux-kernel
  21  * list not VIA.
  22  *
  23  * Original code:
  24  *
  25  * Copyright (c) 1996, 2003 VIA Networking Technologies, Inc.
  26  * All rights reserved.
  27  *
  28  * This software may be redistributed and/or modified under
  29  * the terms of the GNU General Public License as published by the Free
  30  * Software Foundation; either version 2 of the License, or
  31  * any later version.
  32  *
  33  * This program is distributed in the hope that it will be useful, but
  34  * WITHOUT ANY WARRANTY; without even the implied warranty of MERCHANTABILITY
  35  * or FITNESS FOR A PARTICULAR PURPOSE. See the GNU General Public License
  36  * for more details.
  37  *
  38  * Author: Chuang Liang-Shing, AJ Jiang
  39  *
  40  * Date: Jan 24, 2003
  41  *
  42  * MODULE_LICENSE("GPL");
  43  *
  44  */
  45
  46
  47 #include <linux/module.h>
  48 #include <linux/types.h>
  49 #include <linux/init.h>
  50 #include <linux/mm.h>
  51 #include <linux/errno.h>
  52 #include <linux/ioport.h>
  53 #include <linux/pci.h>
  54 #include <linux/kernel.h>
  55 #include <linux/netdevice.h>
  56 #include <linux/etherdevice.h>
  57 #include <linux/skbuff.h>
  58 #include <linux/delay.h>
  59 #include <linux/timer.h>
  60 #include <linux/slab.h>
  61 #include <linux/interrupt.h>
  62 #include <linux/string.h>
  63 #include <linux/wait.h>
  64 #include <asm/io.h>
  65 #include <linux/if.h>
  66 #include <asm/uaccess.h>
  67 #include <linux/proc_fs.h>
  68 #include <linux/inetdevice.h>
  69 #include <linux/reboot.h>
  70 #include <linux/ethtool.h>
  71 #include <linux/mii.h>
  72 #include <linux/in.h>
  73 #include <linux/if_arp.h>
  74 #include <linux/if_vlan.h>
  75 #include <linux/ip.h>
  76 #include <linux/tcp.h>
  77 #include <linux/udp.h>
  78 #include <linux/crc-ccitt.h>
  79 #include <linux/crc32.h>
  80
  81 #include "via-velocity.h"
  82
  83
  84 static int velocity_nics = 0;
  85 static int msglevel = MSG_LEVEL_INFO;
  86
  87 /**
  88  *      mac_get_cam_mask        -       Read a CAM mask
  89  *      @regs: register block for this velocity
  90  *      @mask: buffer to store mask
  91  *
  92  *      Fetch the mask bits of the selected CAM and store them into the
  93  *      provided mask buffer.
  94  */
  95
  96 static void mac_get_cam_mask(struct mac_regs __iomem * regs, u8 * mask)
  97 {
  98         int i;
  99
 100         /* Select CAM mask */
 101         BYTE_REG_BITS_SET(CAMCR_PS_CAM_MASK, CAMCR_PS1 | CAMCR_PS0, &regs->CAMCR);
 102
 103         writeb(0, &regs->CAMADDR);
 104
 105         /* read mask */
 106         for (i = 0; i < 8; i++)
 107                 *mask++ = readb(&(regs->MARCAM[i]));
 108
 109         /* disable CAMEN */
 110         writeb(0, &regs->CAMADDR);
 111
 112         /* Select mar */
 113         BYTE_REG_BITS_SET(CAMCR_PS_MAR, CAMCR_PS1 | CAMCR_PS0, &regs->CAMCR);
 114
 115 }
 116
 117
 118 /**
 119  *      mac_set_cam_mask        -       Set a CAM mask
 120  *      @regs: register block for this velocity
 121  *      @mask: CAM mask to load
 122  *
 123  *      Store a new mask into a CAM
 124  */
 125
 126 static void mac_set_cam_mask(struct mac_regs __iomem * regs, u8 * mask)
 127 {
 128         int i;
 129         /* Select CAM mask */
 130         BYTE_REG_BITS_SET(CAMCR_PS_CAM_MASK, CAMCR_PS1 | CAMCR_PS0, &regs->CAMCR);
 131
 132         writeb(CAMADDR_CAMEN, &regs->CAMADDR);
 133
 134         for (i = 0; i < 8; i++) {
 135                 writeb(*mask++, &(regs->MARCAM[i]));
 136         }
 137         /* disable CAMEN */
 138         writeb(0, &regs->CAMADDR);
 139
 140         /* Select mar */
 141         BYTE_REG_BITS_SET(CAMCR_PS_MAR, CAMCR_PS1 | CAMCR_PS0, &regs->CAMCR);
 142 }
 143
 144 static void mac_set_vlan_cam_mask(struct mac_regs __iomem * regs, u8 * mask)
 145 {
 146         int i;
 147         /* Select CAM mask */
 148         BYTE_REG_BITS_SET(CAMCR_PS_CAM_MASK, CAMCR_PS1 | CAMCR_PS0, &regs->CAMCR);
 149
 150         writeb(CAMADDR_CAMEN | CAMADDR_VCAMSL, &regs->CAMADDR);
 151
 152         for (i = 0; i < 8; i++) {
 153                 writeb(*mask++, &(regs->MARCAM[i]));
 154         }
 155         /* disable CAMEN */
 156         writeb(0, &regs->CAMADDR);
 157
 158         /* Select mar */
 159         BYTE_REG_BITS_SET(CAMCR_PS_MAR, CAMCR_PS1 | CAMCR_PS0, &regs->CAMCR);
 160 }
 161
 162 /**
 163  *      mac_set_cam     -       set CAM data
 164  *      @regs: register block of this velocity
 165  *      @idx: Cam index
 166  *      @addr: 2 or 6 bytes of CAM data
 167  *
 168  *      Load an address or vlan tag into a CAM
 169  */
 170
 171 static void mac_set_cam(struct mac_regs __iomem * regs, int idx, const u8 *addr)
 172 {
 173         int i;
 174
 175         /* Select CAM mask */
 176         BYTE_REG_BITS_SET(CAMCR_PS_CAM_DATA, CAMCR_PS1 | CAMCR_PS0, &regs->CAMCR);
 177
 178         idx &= (64 - 1);
 179
 180         writeb(CAMADDR_CAMEN | idx, &regs->CAMADDR);
 181
 182         for (i = 0; i < 6; i++) {
 183                 writeb(*addr++, &(regs->MARCAM[i]));
 184         }
 185         BYTE_REG_BITS_ON(CAMCR_CAMWR, &regs->CAMCR);
 186
 187         udelay(10);
 188
 189         writeb(0, &regs->CAMADDR);
 190
 191         /* Select mar */
 192         BYTE_REG_BITS_SET(CAMCR_PS_MAR, CAMCR_PS1 | CAMCR_PS0, &regs->CAMCR);
 193 }
 194
 195 static void mac_set_vlan_cam(struct mac_regs __iomem * regs, int idx,
 196                              const u8 *addr)
 197 {
 198
 199         /* Select CAM mask */
 200         BYTE_REG_BITS_SET(CAMCR_PS_CAM_DATA, CAMCR_PS1 | CAMCR_PS0, &regs->CAMCR);
 201
 202         idx &= (64 - 1);
 203
 204         writeb(CAMADDR_CAMEN | CAMADDR_VCAMSL | idx, &regs->CAMADDR);
 205         writew(*((u16 *) addr), &regs->MARCAM[0]);
 206
 207         BYTE_REG_BITS_ON(CAMCR_CAMWR, &regs->CAMCR);
 208
 209         udelay(10);
 210
 211         writeb(0, &regs->CAMADDR);
 212
 213         /* Select mar */
 214         BYTE_REG_BITS_SET(CAMCR_PS_MAR, CAMCR_PS1 | CAMCR_PS0, &regs->CAMCR);
 215 }
 216
 217
 218 /**
 219  *      mac_wol_reset   -       reset WOL after exiting low power
 220  *      @regs: register block of this velocity
 221  *
 222  *      Called after we drop out of wake on lan mode in order to
 223  *      reset the Wake on lan features. This function doesn't restore
 224  *      the rest of the logic from the result of sleep/wakeup
 225  */
 226
 227 static void mac_wol_reset(struct mac_regs __iomem * regs)
 228 {
 229
 230         /* Turn off SWPTAG right after leaving power mode */
 231         BYTE_REG_BITS_OFF(STICKHW_SWPTAG, &regs->STICKHW);
 232         /* clear sticky bits */
 233         BYTE_REG_BITS_OFF((STICKHW_DS1 | STICKHW_DS0), &regs->STICKHW);
 234
 235         BYTE_REG_BITS_OFF(CHIPGCR_FCGMII, &regs->CHIPGCR);
 236         BYTE_REG_BITS_OFF(CHIPGCR_FCMODE, &regs->CHIPGCR);
 237         /* disable force PME-enable */
 238         writeb(WOLCFG_PMEOVR, &regs->WOLCFGClr);
 239         /* disable power-event config bit */
 240         writew(0xFFFF, &regs->WOLCRClr);
 241         /* clear power status */
 242         writew(0xFFFF, &regs->WOLSRClr);
 243 }
 244
 245 static int velocity_mii_ioctl(struct net_device *dev, struct ifreq *ifr, int cmd);
 246 static const struct ethtool_ops velocity_ethtool_ops;
 247
 248 /*
 249     Define module options
 250 */
 251
 252 MODULE_AUTHOR("VIA Networking Technologies, Inc.");
 253 MODULE_LICENSE("GPL");
 254 MODULE_DESCRIPTION("VIA Networking Velocity Family Gigabit Ethernet Adapter Driver");
 255
 256 #define VELOCITY_PARAM(N,D) \
 257         static int N[MAX_UNITS]=OPTION_DEFAULT;\
 258         module_param_array(N, int, NULL, 0); \
 259         MODULE_PARM_DESC(N, D);
 260
 261 #define RX_DESC_MIN     64
 262 #define RX_DESC_MAX     255
 263 #define RX_DESC_DEF     64
 264 VELOCITY_PARAM(RxDescriptors, "Number of receive descriptors");
 265
 266 #define TX_DESC_MIN     16
 267 #define TX_DESC_MAX     256
 268 #define TX_DESC_DEF     64
 269 VELOCITY_PARAM(TxDescriptors, "Number of transmit descriptors");
 270
 271 #define RX_THRESH_MIN   0
 272 #define RX_THRESH_MAX   3
 273 #define RX_THRESH_DEF   0
 274 /* rx_thresh[] is used for controlling the receive fifo threshold.
 275    0: indicate the rxfifo threshold is 128 bytes.
 276    1: indicate the rxfifo threshold is 512 bytes.
 277    2: indicate the rxfifo threshold is 1024 bytes.
 278    3: indicate the rxfifo threshold is store & forward.
 279 */
 280 VELOCITY_PARAM(rx_thresh, "Receive fifo threshold");
 281
 282 #define DMA_LENGTH_MIN  0
 283 #define DMA_LENGTH_MAX  7
 284 #define DMA_LENGTH_DEF  0
 285
 286 /* DMA_length[] is used for controlling the DMA length
 287    0: 8 DWORDs
 288    1: 16 DWORDs
 289    2: 32 DWORDs
 290    3: 64 DWORDs
 291    4: 128 DWORDs
 292    5: 256 DWORDs
 293    6: SF(flush till emply)
 294    7: SF(flush till emply)
 295 */
 296 VELOCITY_PARAM(DMA_length, "DMA length");
 297
 298 #define IP_ALIG_DEF     0
 299 /* IP_byte_align[] is used for IP header DWORD byte aligned
 300    0: indicate the IP header won't be DWORD byte aligned.(Default) .
 301    1: indicate the IP header will be DWORD byte aligned.
 302       In some enviroment, the IP header should be DWORD byte aligned,
 303       or the packet will be droped when we receive it. (eg: IPVS)
 304 */
 305 VELOCITY_PARAM(IP_byte_align, "Enable IP header dword aligned");
 306
 307 #define TX_CSUM_DEF     1
 308 /* txcsum_offload[] is used for setting the checksum offload ability of NIC.
 309    (We only support RX checksum offload now)
 310    0: disable csum_offload[checksum offload
 311    1: enable checksum offload. (Default)
 312 */
 313 VELOCITY_PARAM(txcsum_offload, "Enable transmit packet checksum offload");
 314
 315 #define FLOW_CNTL_DEF   1
 316 #define FLOW_CNTL_MIN   1
 317 #define FLOW_CNTL_MAX   5
 318
 319 /* flow_control[] is used for setting the flow control ability of NIC.
 320    1: hardware deafult - AUTO (default). Use Hardware default value in ANAR.
 321    2: enable TX flow control.
 322    3: enable RX flow control.
 323    4: enable RX/TX flow control.
 324    5: disable
 325 */
 326 VELOCITY_PARAM(flow_control, "Enable flow control ability");
 327
 328 #define MED_LNK_DEF 0
 329 #define MED_LNK_MIN 0
 330 #define MED_LNK_MAX 4
 331 /* speed_duplex[] is used for setting the speed and duplex mode of NIC.
 332    0: indicate autonegotiation for both speed and duplex mode
 333    1: indicate 100Mbps half duplex mode
 334    2: indicate 100Mbps full duplex mode
 335    3: indicate 10Mbps half duplex mode
 336    4: indicate 10Mbps full duplex mode
 337
 338    Note:
 339         if EEPROM have been set to the force mode, this option is ignored
 340             by driver.
 341 */
 342 VELOCITY_PARAM(speed_duplex, "Setting the speed and duplex mode");
 343
 344 #define VAL_PKT_LEN_DEF     0
 345 /* ValPktLen[] is used for setting the checksum offload ability of NIC.
 346    0: Receive frame with invalid layer 2 length (Default)
 347    1: Drop frame with invalid layer 2 length
 348 */
 349 VELOCITY_PARAM(ValPktLen, "Receiving or Drop invalid 802.3 frame");
 350
 351 #define WOL_OPT_DEF     0
 352 #define WOL_OPT_MIN     0
 353 #define WOL_OPT_MAX     7
 354 /* wol_opts[] is used for controlling wake on lan behavior.
 355    0: Wake up if recevied a magic packet. (Default)
 356    1: Wake up if link status is on/off.
 357    2: Wake up if recevied an arp packet.
 358    4: Wake up if recevied any unicast packet.
 359    Those value can be sumed up to support more than one option.
 360 */
 361 VELOCITY_PARAM(wol_opts, "Wake On Lan options");
 362
 363 #define INT_WORKS_DEF   20
 364 #define INT_WORKS_MIN   10
 365 #define INT_WORKS_MAX   64
 366
 367 VELOCITY_PARAM(int_works, "Number of packets per interrupt services");
 368
 369 static int rx_copybreak = 200;
 370 module_param(rx_copybreak, int, 0644);
 371 MODULE_PARM_DESC(rx_copybreak, "Copy breakpoint for copy-only-tiny-frames");
 372
 373 static void velocity_init_info(struct pci_dev *pdev, struct velocity_info *vptr,
 374                                const struct velocity_info_tbl *info);
 375 static int velocity_get_pci_info(struct velocity_info *, struct pci_dev *pdev);
 376 static void velocity_print_info(struct velocity_info *vptr);
 377 static int velocity_open(struct net_device *dev);
 378 static int velocity_change_mtu(struct net_device *dev, int mtu);
 379 static int velocity_xmit(struct sk_buff *skb, struct net_device *dev);
 380 static int velocity_intr(int irq, void *dev_instance);
 381 static void velocity_set_multi(struct net_device *dev);
 382 static struct net_device_stats *velocity_get_stats(struct net_device *dev);
 383 static int velocity_ioctl(struct net_device *dev, struct ifreq *rq, int cmd);
 384 static int velocity_close(struct net_device *dev);
 385 static int velocity_receive_frame(struct velocity_info *, int idx);
 386 static int velocity_alloc_rx_buf(struct velocity_info *, int idx);
 387 static void velocity_free_rd_ring(struct velocity_info *vptr);
 388 static void velocity_free_tx_buf(struct velocity_info *vptr, struct velocity_td_info *);
 389 static int velocity_soft_reset(struct velocity_info *vptr);
 390 static void mii_init(struct velocity_info *vptr, u32 mii_status);
 391 static u32 velocity_get_link(struct net_device *dev);
 392 static u32 velocity_get_opt_media_mode(struct velocity_info *vptr);
 393 static void velocity_print_link_status(struct velocity_info *vptr);
 394 static void safe_disable_mii_autopoll(struct mac_regs __iomem * regs);
 395 static void velocity_shutdown(struct velocity_info *vptr);
 396 static void enable_flow_control_ability(struct velocity_info *vptr);
 397 static void enable_mii_autopoll(struct mac_regs __iomem * regs);
 398 static int velocity_mii_read(struct mac_regs __iomem *, u8 byIdx, u16 * pdata);
 399 static int velocity_mii_write(struct mac_regs __iomem *, u8 byMiiAddr, u16 data);
 400 static u32 mii_check_media_mode(struct mac_regs __iomem * regs);
 401 static u32 check_connection_type(struct mac_regs __iomem * regs);
 402 static int velocity_set_media_mode(struct velocity_info *vptr, u32 mii_status);
 403
 404 #ifdef CONFIG_PM
 405
 406 static int velocity_suspend(struct pci_dev *pdev, pm_message_t state);
 407 static int velocity_resume(struct pci_dev *pdev);
 408
 409 static DEFINE_SPINLOCK(velocity_dev_list_lock);
 410 static LIST_HEAD(velocity_dev_list);
 411
 412 #endif
 413
 414 #if defined(CONFIG_PM) && defined(CONFIG_INET)
 415
 416 static int velocity_netdev_event(struct notifier_block *nb, unsigned long notification, void *ptr);
 417
 418 static struct notifier_block velocity_inetaddr_notifier = {
 419       .notifier_call    = velocity_netdev_event,
 420 };
 421
 422 static void velocity_register_notifier(void)
 423 {
 424         register_inetaddr_notifier(&velocity_inetaddr_notifier);
 425 }
 426
 427 static void velocity_unregister_notifier(void)
 428 {
 429         unregister_inetaddr_notifier(&velocity_inetaddr_notifier);
 430 }
 431
 432 #else
 433
 434 #define velocity_register_notifier()    do {} while (0)
 435 #define velocity_unregister_notifier()  do {} while (0)
 436
 437 #endif
 438
 439 /*
 440  *      Internal board variants. At the moment we have only one
 441  */
 442
 443 static struct velocity_info_tbl chip_info_table[] = {
 444         {CHIP_TYPE_VT6110, "VIA Networking Velocity Family Gigabit Ethernet Adapter", 1, 0x00FFFFFFUL},
 445         { }
 446 };
 447
 448 /*
 449  *      Describe the PCI device identifiers that we support in this
 450  *      device driver. Used for hotplug autoloading.
 451  */
 452
 453 static const struct pci_device_id velocity_id_table[] __devinitdata = {
 454         { PCI_DEVICE(PCI_VENDOR_ID_VIA, PCI_DEVICE_ID_VIA_612X) },
 455         { }
 456 };
 457
 458 MODULE_DEVICE_TABLE(pci, velocity_id_table);
 459
 460 /**
 461  *      get_chip_name   -       identifier to name
 462  *      @id: chip identifier
 463  *
 464  *      Given a chip identifier return a suitable description. Returns
 465  *      a pointer a static string valid while the driver is loaded.
 466  */
 467
 468 static const char __devinit *get_chip_name(enum chip_type chip_id)
 469 {
 470         int i;
 471         for (i = 0; chip_info_table[i].name != NULL; i++)
 472                 if (chip_info_table[i].chip_id == chip_id)
 473                         break;
 474         return chip_info_table[i].name;
 475 }
 476
 477 /**
 478  *      velocity_remove1        -       device unplug
 479  *      @pdev: PCI device being removed
 480  *
 481  *      Device unload callback. Called on an unplug or on module
 482  *      unload for each active device that is present. Disconnects
 483  *      the device from the network layer and frees all the resources
 484  */
 485
 486 static void __devexit velocity_remove1(struct pci_dev *pdev)
 487 {
 488         struct net_device *dev = pci_get_drvdata(pdev);
 489         struct velocity_info *vptr = netdev_priv(dev);
 490
 491 #ifdef CONFIG_PM
 492         unsigned long flags;
 493
 494         spin_lock_irqsave(&velocity_dev_list_lock, flags);
 495         if (!list_empty(&velocity_dev_list))
 496                 list_del(&vptr->list);
 497         spin_unlock_irqrestore(&velocity_dev_list_lock, flags);
 498 #endif
 499         unregister_netdev(dev);
 500         iounmap(vptr->mac_regs);
 501         pci_release_regions(pdev);
 502         pci_disable_device(pdev);
 503         pci_set_drvdata(pdev, NULL);
 504         free_netdev(dev);
 505
 506         velocity_nics--;
 507 }
 508
 509 /**
 510  *      velocity_set_int_opt    -       parser for integer options
 511  *      @opt: pointer to option value
 512  *      @val: value the user requested (or -1 for default)
 513  *      @min: lowest value allowed
 514  *      @max: highest value allowed
 515  *      @def: default value
 516  *      @name: property name
 517  *      @dev: device name
 518  *
 519  *      Set an integer property in the module options. This function does
 520  *      all the verification and checking as well as reporting so that
 521  *      we don't duplicate code for each option.
 522  */
 523
 524 static void __devinit velocity_set_int_opt(int *opt, int val, int min, int max, int def, char *name, char *devname)
 525 {
 526         if (val == -1)
 527                 *opt = def;
 528         else if (val < min || val > max) {
 529                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_NOTICE "%s: the value of parameter %s is invalid, the valid range is (%d-%d)\n",
 530                                         devname, name, min, max);
 531                 *opt = def;
 532         } else {
 533                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_INFO "%s: set value of parameter %s to %d\n",
 534                                         devname, name, val);
 535                 *opt = val;
 536         }
 537 }
 538
 539 /**
 540  *      velocity_set_bool_opt   -       parser for boolean options
 541  *      @opt: pointer to option value
 542  *      @val: value the user requested (or -1 for default)
 543  *      @def: default value (yes/no)
 544  *      @flag: numeric value to set for true.
 545  *      @name: property name
 546  *      @dev: device name
 547  *
 548  *      Set a boolean property in the module options. This function does
 549  *      all the verification and checking as well as reporting so that
 550  *      we don't duplicate code for each option.
 551  */
 552
 553 static void __devinit velocity_set_bool_opt(u32 * opt, int val, int def, u32 flag, char *name, char *devname)
 554 {
 555         (*opt) &= (~flag);
 556         if (val == -1)
 557                 *opt |= (def ? flag : 0);
 558         else if (val < 0 || val > 1) {
 559                 printk(KERN_NOTICE "%s: the value of parameter %s is invalid, the valid range is (0-1)\n",
 560                         devname, name);
 561                 *opt |= (def ? flag : 0);
 562         } else {
 563                 printk(KERN_INFO "%s: set parameter %s to %s\n",
 564                         devname, name, val ? "TRUE" : "FALSE");
 565                 *opt |= (val ? flag : 0);
 566         }
 567 }
 568
 569 /**
 570  *      velocity_get_options    -       set options on device
 571  *      @opts: option structure for the device
 572  *      @index: index of option to use in module options array
 573  *      @devname: device name
 574  *
 575  *      Turn the module and command options into a single structure
 576  *      for the current device
 577  */
 578
 579 static void __devinit velocity_get_options(struct velocity_opt *opts, int index, char *devname)
 580 {
 581
 582         velocity_set_int_opt(&opts->rx_thresh, rx_thresh[index], RX_THRESH_MIN, RX_THRESH_MAX, RX_THRESH_DEF, "rx_thresh", devname);
 583         velocity_set_int_opt(&opts->DMA_length, DMA_length[index], DMA_LENGTH_MIN, DMA_LENGTH_MAX, DMA_LENGTH_DEF, "DMA_length", devname);
 584         velocity_set_int_opt(&opts->numrx, RxDescriptors[index], RX_DESC_MIN, RX_DESC_MAX, RX_DESC_DEF, "RxDescriptors", devname);
 585         velocity_set_int_opt(&opts->numtx, TxDescriptors[index], TX_DESC_MIN, TX_DESC_MAX, TX_DESC_DEF, "TxDescriptors", devname);
 586
 587         velocity_set_bool_opt(&opts->flags, txcsum_offload[index], TX_CSUM_DEF, VELOCITY_FLAGS_TX_CSUM, "txcsum_offload", devname);
 588         velocity_set_int_opt(&opts->flow_cntl, flow_control[index], FLOW_CNTL_MIN, FLOW_CNTL_MAX, FLOW_CNTL_DEF, "flow_control", devname);
 589         velocity_set_bool_opt(&opts->flags, IP_byte_align[index], IP_ALIG_DEF, VELOCITY_FLAGS_IP_ALIGN, "IP_byte_align", devname);
 590         velocity_set_bool_opt(&opts->flags, ValPktLen[index], VAL_PKT_LEN_DEF, VELOCITY_FLAGS_VAL_PKT_LEN, "ValPktLen", devname);
 591         velocity_set_int_opt((int *) &opts->spd_dpx, speed_duplex[index], MED_LNK_MIN, MED_LNK_MAX, MED_LNK_DEF, "Media link mode", devname);
 592         velocity_set_int_opt((int *) &opts->wol_opts, wol_opts[index], WOL_OPT_MIN, WOL_OPT_MAX, WOL_OPT_DEF, "Wake On Lan options", devname);
 593         velocity_set_int_opt((int *) &opts->int_works, int_works[index], INT_WORKS_MIN, INT_WORKS_MAX, INT_WORKS_DEF, "Interrupt service works", devname);
 594         opts->numrx = (opts->numrx & ~3);
 595 }
 596
 597 /**
 598  *      velocity_init_cam_filter        -       initialise CAM
 599  *      @vptr: velocity to program
 600  *
 601  *      Initialize the content addressable memory used for filters. Load
 602  *      appropriately according to the presence of VLAN
 603  */
 604
 605 static void velocity_init_cam_filter(struct velocity_info *vptr)
 606 {
 607         struct mac_regs __iomem * regs = vptr->mac_regs;
 608
 609         /* Turn on MCFG_PQEN, turn off MCFG_RTGOPT */
 610         WORD_REG_BITS_SET(MCFG_PQEN, MCFG_RTGOPT, &regs->MCFG);
 611         WORD_REG_BITS_ON(MCFG_VIDFR, &regs->MCFG);
 612
 613         /* Disable all CAMs */
 614         memset(vptr->vCAMmask, 0, sizeof(u8) * 8);
 615         memset(vptr->mCAMmask, 0, sizeof(u8) * 8);
 616         mac_set_vlan_cam_mask(regs, vptr->vCAMmask);
 617         mac_set_cam_mask(regs, vptr->mCAMmask);
 618
 619         /* Enable VCAMs */
 620         if (vptr->vlgrp) {
 621                 unsigned int vid, i = 0;
 622
 623                 if (!vlan_group_get_device(vptr->vlgrp, 0))
 624                         WORD_REG_BITS_ON(MCFG_RTGOPT, &regs->MCFG);
 625
 626                 for (vid = 1; (vid < VLAN_VID_MASK); vid++) {
 627                         if (vlan_group_get_device(vptr->vlgrp, vid)) {
 628                                 mac_set_vlan_cam(regs, i, (u8 *) &vid);
 629                                 vptr->vCAMmask[i / 8] |= 0x1 << (i % 8);
 630                                 if (++i >= VCAM_SIZE)
 631                                         break;
 632                         }
 633                 }
 634                 mac_set_vlan_cam_mask(regs, vptr->vCAMmask);
 635         }
 636 }
 637
 638 static void velocity_vlan_rx_register(struct net_device *dev,
 639                                       struct vlan_group *grp)
 640 {
 641         struct velocity_info *vptr = netdev_priv(dev);
 642
 643         vptr->vlgrp = grp;
 644 }
 645
 646 static void velocity_vlan_rx_add_vid(struct net_device *dev, unsigned short vid)
 647 {
 648         struct velocity_info *vptr = netdev_priv(dev);
 649
 650         spin_lock_irq(&vptr->lock);
 651         velocity_init_cam_filter(vptr);
 652         spin_unlock_irq(&vptr->lock);
 653 }
 654
 655 static void velocity_vlan_rx_kill_vid(struct net_device *dev, unsigned short vid)
 656 {
 657         struct velocity_info *vptr = netdev_priv(dev);
 658
 659         spin_lock_irq(&vptr->lock);
 660         vlan_group_set_device(vptr->vlgrp, vid, NULL);
 661         velocity_init_cam_filter(vptr);
 662         spin_unlock_irq(&vptr->lock);
 663 }
 664
 665 static void velocity_init_rx_ring_indexes(struct velocity_info *vptr)
 666 {
 667         vptr->rx.dirty = vptr->rx.filled = vptr->rx.curr = 0;
 668 }
 669
 670 /**
 671  *      velocity_rx_reset       -       handle a receive reset
 672  *      @vptr: velocity we are resetting
 673  *
 674  *      Reset the ownership and status for the receive ring side.
 675  *      Hand all the receive queue to the NIC.
 676  */
 677
 678 static void velocity_rx_reset(struct velocity_info *vptr)
 679 {
 680
 681         struct mac_regs __iomem * regs = vptr->mac_regs;
 682         int i;
 683
 684         velocity_init_rx_ring_indexes(vptr);
 685
 686         /*
 687          *      Init state, all RD entries belong to the NIC
 688          */
 689         for (i = 0; i < vptr->options.numrx; ++i)
 690                 vptr->rx.ring[i].rdesc0.len |= OWNED_BY_NIC;
 691
 692         writew(vptr->options.numrx, &regs->RBRDU);
 693         writel(vptr->rx.pool_dma, &regs->RDBaseLo);
 694         writew(0, &regs->RDIdx);
 695         writew(vptr->options.numrx - 1, &regs->RDCSize);
 696 }
 697
 698 /**
 699  *      velocity_init_registers -       initialise MAC registers
 700  *      @vptr: velocity to init
 701  *      @type: type of initialisation (hot or cold)
 702  *
 703  *      Initialise the MAC on a reset or on first set up on the
 704  *      hardware.
 705  */
 706
 707 static void velocity_init_registers(struct velocity_info *vptr,
 708                                     enum velocity_init_type type)
 709 {
 710         struct mac_regs __iomem * regs = vptr->mac_regs;
 711         int i, mii_status;
 712
 713         mac_wol_reset(regs);
 714
 715         switch (type) {
 716         case VELOCITY_INIT_RESET:
 717         case VELOCITY_INIT_WOL:
 718
 719                 netif_stop_queue(vptr->dev);
 720
 721                 /*
 722                  *      Reset RX to prevent RX pointer not on the 4X location
 723                  */
 724                 velocity_rx_reset(vptr);
 725                 mac_rx_queue_run(regs);
 726                 mac_rx_queue_wake(regs);
 727
 728                 mii_status = velocity_get_opt_media_mode(vptr);
 729                 if (velocity_set_media_mode(vptr, mii_status) != VELOCITY_LINK_CHANGE) {
 730                         velocity_print_link_status(vptr);
 731                         if (!(vptr->mii_status & VELOCITY_LINK_FAIL))
 732                                 netif_wake_queue(vptr->dev);
 733                 }
 734
 735                 enable_flow_control_ability(vptr);
 736
 737                 mac_clear_isr(regs);
 738                 writel(CR0_STOP, &regs->CR0Clr);
 739                 writel((CR0_DPOLL | CR0_TXON | CR0_RXON | CR0_STRT),
 740                                                         &regs->CR0Set);
 741
 742                 break;
 743
 744         case VELOCITY_INIT_COLD:
 745         default:
 746                 /*
 747                  *      Do reset
 748                  */
 749                 velocity_soft_reset(vptr);
 750                 mdelay(5);
 751
 752                 mac_eeprom_reload(regs);
 753                 for (i = 0; i < 6; i++) {
 754                         writeb(vptr->dev->dev_addr[i], &(regs->PAR[i]));
 755                 }
 756                 /*
 757                  *      clear Pre_ACPI bit.
 758                  */
 759                 BYTE_REG_BITS_OFF(CFGA_PACPI, &(regs->CFGA));
 760                 mac_set_rx_thresh(regs, vptr->options.rx_thresh);
 761                 mac_set_dma_length(regs, vptr->options.DMA_length);
 762
 763                 writeb(WOLCFG_SAM | WOLCFG_SAB, &regs->WOLCFGSet);
 764                 /*
 765                  *      Back off algorithm use original IEEE standard
 766                  */
 767                 BYTE_REG_BITS_SET(CFGB_OFSET, (CFGB_CRANDOM | CFGB_CAP | CFGB_MBA | CFGB_BAKOPT), &regs->CFGB);
 768
 769                 /*
 770                  *      Init CAM filter
 771                  */
 772                 velocity_init_cam_filter(vptr);
 773
 774                 /*
 775                  *      Set packet filter: Receive directed and broadcast address
 776                  */
 777                 velocity_set_multi(vptr->dev);
 778
 779                 /*
 780                  *      Enable MII auto-polling
 781                  */
 782                 enable_mii_autopoll(regs);
 783
 784                 vptr->int_mask = INT_MASK_DEF;
 785
 786                 writel(vptr->rx.pool_dma, &regs->RDBaseLo);
 787                 writew(vptr->options.numrx - 1, &regs->RDCSize);
 788                 mac_rx_queue_run(regs);
 789                 mac_rx_queue_wake(regs);
 790
 791                 writew(vptr->options.numtx - 1, &regs->TDCSize);
 792
 793                 for (i = 0; i < vptr->tx.numq; i++) {
 794                         writel(vptr->tx.pool_dma[i], &regs->TDBaseLo[i]);
 795                         mac_tx_queue_run(regs, i);
 796                 }
 797
 798                 init_flow_control_register(vptr);
 799
 800                 writel(CR0_STOP, &regs->CR0Clr);
 801                 writel((CR0_DPOLL | CR0_TXON | CR0_RXON | CR0_STRT), &regs->CR0Set);
 802
 803                 mii_status = velocity_get_opt_media_mode(vptr);
 804                 netif_stop_queue(vptr->dev);
 805
 806                 mii_init(vptr, mii_status);
 807
 808                 if (velocity_set_media_mode(vptr, mii_status) != VELOCITY_LINK_CHANGE) {
 809                         velocity_print_link_status(vptr);
 810                         if (!(vptr->mii_status & VELOCITY_LINK_FAIL))
 811                                 netif_wake_queue(vptr->dev);
 812                 }
 813
 814                 enable_flow_control_ability(vptr);
 815                 mac_hw_mibs_init(regs);
 816                 mac_write_int_mask(vptr->int_mask, regs);
 817                 mac_clear_isr(regs);
 818
 819         }
 820 }
 821
 822 /**
 823  *      velocity_soft_reset     -       soft reset
 824  *      @vptr: velocity to reset
 825  *
 826  *      Kick off a soft reset of the velocity adapter and then poll
 827  *      until the reset sequence has completed before returning.
 828  */
 829
 830 static int velocity_soft_reset(struct velocity_info *vptr)
 831 {
 832         struct mac_regs __iomem * regs = vptr->mac_regs;
 833         int i = 0;
 834
 835         writel(CR0_SFRST, &regs->CR0Set);
 836
 837         for (i = 0; i < W_MAX_TIMEOUT; i++) {
 838                 udelay(5);
 839                 if (!DWORD_REG_BITS_IS_ON(CR0_SFRST, &regs->CR0Set))
 840                         break;
 841         }
 842
 843         if (i == W_MAX_TIMEOUT) {
 844                 writel(CR0_FORSRST, &regs->CR0Set);
 845                 /* FIXME: PCI POSTING */
 846                 /* delay 2ms */
 847                 mdelay(2);
 848         }
 849         return 0;
 850 }
 851
 852 /**
 853  *      velocity_found1         -       set up discovered velocity card
 854  *      @pdev: PCI device
 855  *      @ent: PCI device table entry that matched
 856  *
 857  *      Configure a discovered adapter from scratch. Return a negative
 858  *      errno error code on failure paths.
 859  */
 860
 861 static int __devinit velocity_found1(struct pci_dev *pdev, const struct pci_device_id *ent)
 862 {
 863         static int first = 1;
 864         struct net_device *dev;
 865         int i;
 866         const struct velocity_info_tbl *info = &chip_info_table[ent->driver_data];
 867         struct velocity_info *vptr;
 868         struct mac_regs __iomem * regs;
 869         int ret = -ENOMEM;
 870
 871         /* FIXME: this driver, like almost all other ethernet drivers,
 872          * can support more than MAX_UNITS.
 873          */
 874         if (velocity_nics >= MAX_UNITS) {
 875                 dev_notice(&pdev->dev, "already found %d NICs.\n",
 876                            velocity_nics);
 877                 return -ENODEV;
 878         }
 879
 880         dev = alloc_etherdev(sizeof(struct velocity_info));
 881         if (!dev) {
 882                 dev_err(&pdev->dev, "allocate net device failed.\n");
 883                 goto out;
 884         }
 885
 886         /* Chain it all together */
 887
 888         SET_NETDEV_DEV(dev, &pdev->dev);
 889         vptr = netdev_priv(dev);
 890
 891
 892         if (first) {
 893                 printk(KERN_INFO "%s Ver. %s\n",
 894                         VELOCITY_FULL_DRV_NAM, VELOCITY_VERSION);
 895                 printk(KERN_INFO "Copyright (c) 2002, 2003 VIA Networking Technologies, Inc.\n");
 896                 printk(KERN_INFO "Copyright (c) 2004 Red Hat Inc.\n");
 897                 first = 0;
 898         }
 899
 900         velocity_init_info(pdev, vptr, info);
 901
 902         vptr->dev = dev;
 903
 904         dev->irq = pdev->irq;
 905
 906         ret = pci_enable_device(pdev);
 907         if (ret < 0)
 908                 goto err_free_dev;
 909
 910         ret = velocity_get_pci_info(vptr, pdev);
 911         if (ret < 0) {
 912                 /* error message already printed */
 913                 goto err_disable;
 914         }
 915
 916         ret = pci_request_regions(pdev, VELOCITY_NAME);
 917         if (ret < 0) {
 918                 dev_err(&pdev->dev, "No PCI resources.\n");
 919                 goto err_disable;
 920         }
 921
 922         regs = ioremap(vptr->memaddr, VELOCITY_IO_SIZE);
 923         if (regs == NULL) {
 924                 ret = -EIO;
 925                 goto err_release_res;
 926         }
 927
 928         vptr->mac_regs = regs;
 929
 930         mac_wol_reset(regs);
 931
 932         dev->base_addr = vptr->ioaddr;
 933
 934         for (i = 0; i < 6; i++)
 935                 dev->dev_addr[i] = readb(&regs->PAR[i]);
 936
 937
 938         velocity_get_options(&vptr->options, velocity_nics, dev->name);
 939
 940         /*
 941          *      Mask out the options cannot be set to the chip
 942          */
 943
 944         vptr->options.flags &= info->flags;
 945
 946         /*
 947          *      Enable the chip specified capbilities
 948          */
 949
 950         vptr->flags = vptr->options.flags | (info->flags & 0xFF000000UL);
 951
 952         vptr->wol_opts = vptr->options.wol_opts;
 953         vptr->flags |= VELOCITY_FLAGS_WOL_ENABLED;
 954
 955         vptr->phy_id = MII_GET_PHY_ID(vptr->mac_regs);
 956
 957         dev->irq = pdev->irq;
 958         dev->open = velocity_open;
 959         dev->hard_start_xmit = velocity_xmit;
 960         dev->stop = velocity_close;
 961         dev->get_stats = velocity_get_stats;
 962         dev->set_multicast_list = velocity_set_multi;
 963         dev->do_ioctl = velocity_ioctl;
 964         dev->ethtool_ops = &velocity_ethtool_ops;
 965         dev->change_mtu = velocity_change_mtu;
 966
 967         dev->vlan_rx_add_vid = velocity_vlan_rx_add_vid;
 968         dev->vlan_rx_kill_vid = velocity_vlan_rx_kill_vid;
 969         dev->vlan_rx_register = velocity_vlan_rx_register;
 970
 971 #ifdef  VELOCITY_ZERO_COPY_SUPPORT
 972         dev->features |= NETIF_F_SG;
 973 #endif
 974         dev->features |= NETIF_F_HW_VLAN_TX | NETIF_F_HW_VLAN_FILTER |
 975                 NETIF_F_HW_VLAN_RX;
 976
 977         if (vptr->flags & VELOCITY_FLAGS_TX_CSUM)
 978                 dev->features |= NETIF_F_IP_CSUM;
 979
 980         ret = register_netdev(dev);
 981         if (ret < 0)
 982                 goto err_iounmap;
 983
 984         if (velocity_get_link(dev))
 985                 netif_carrier_off(dev);
 986
 987         velocity_print_info(vptr);
 988         pci_set_drvdata(pdev, dev);
 989
 990         /* and leave the chip powered down */
 991
 992         pci_set_power_state(pdev, PCI_D3hot);
 993 #ifdef CONFIG_PM
 994         {
 995                 unsigned long flags;
 996
 997                 spin_lock_irqsave(&velocity_dev_list_lock, flags);
 998                 list_add(&vptr->list, &velocity_dev_list);
 999                 spin_unlock_irqrestore(&velocity_dev_list_lock, flags);
1000         }
1001 #endif
1002         velocity_nics++;
1003 out:
1004         return ret;
1005
1006 err_iounmap:
1007         iounmap(regs);
1008 err_release_res:
1009         pci_release_regions(pdev);
1010 err_disable:
1011         pci_disable_device(pdev);
1012 err_free_dev:
1013         free_netdev(dev);
1014         goto out;
1015 }
1016
1017 /**
1018  *      velocity_print_info     -       per driver data
1019  *      @vptr: velocity
1020  *
1021  *      Print per driver data as the kernel driver finds Velocity
1022  *      hardware
1023  */
1024
1025 static void __devinit velocity_print_info(struct velocity_info *vptr)
1026 {
1027         struct net_device *dev = vptr->dev;
1028
1029         printk(KERN_INFO "%s: %s\n", dev->name, get_chip_name(vptr->chip_id));
1030         printk(KERN_INFO "%s: Ethernet Address: %2.2X:%2.2X:%2.2X:%2.2X:%2.2X:%2.2X\n",
1031                 dev->name,
1032                 dev->dev_addr[0], dev->dev_addr[1], dev->dev_addr[2],
1033                 dev->dev_addr[3], dev->dev_addr[4], dev->dev_addr[5]);
1034 }
1035
1036 /**
1037  *      velocity_init_info      -       init private data
1038  *      @pdev: PCI device
1039  *      @vptr: Velocity info
1040  *      @info: Board type
1041  *
1042  *      Set up the initial velocity_info struct for the device that has been
1043  *      discovered.
1044  */
1045
1046 static void __devinit velocity_init_info(struct pci_dev *pdev,
1047                                          struct velocity_info *vptr,
1048                                          const struct velocity_info_tbl *info)
1049 {
1050         memset(vptr, 0, sizeof(struct velocity_info));
1051
1052         vptr->pdev = pdev;
1053         vptr->chip_id = info->chip_id;
1054         vptr->tx.numq = info->txqueue;
1055         vptr->multicast_limit = MCAM_SIZE;
1056         spin_lock_init(&vptr->lock);
1057         INIT_LIST_HEAD(&vptr->list);
1058 }
1059
1060 /**
1061  *      velocity_get_pci_info   -       retrieve PCI info for device
1062  *      @vptr: velocity device
1063  *      @pdev: PCI device it matches
1064  *
1065  *      Retrieve the PCI configuration space data that interests us from
1066  *      the kernel PCI layer
1067  */
1068
1069 static int __devinit velocity_get_pci_info(struct velocity_info *vptr, struct pci_dev *pdev)
1070 {
1071         vptr->rev_id = pdev->revision;
1072
1073         pci_set_master(pdev);
1074
1075         vptr->ioaddr = pci_resource_start(pdev, 0);
1076         vptr->memaddr = pci_resource_start(pdev, 1);
1077
1078         if (!(pci_resource_flags(pdev, 0) & IORESOURCE_IO)) {
1079                 dev_err(&pdev->dev,
1080                            "region #0 is not an I/O resource, aborting.\n");
1081                 return -EINVAL;
1082         }
1083
1084         if ((pci_resource_flags(pdev, 1) & IORESOURCE_IO)) {
1085                 dev_err(&pdev->dev,
1086                            "region #1 is an I/O resource, aborting.\n");
1087                 return -EINVAL;
1088         }
1089
1090         if (pci_resource_len(pdev, 1) < VELOCITY_IO_SIZE) {
1091                 dev_err(&pdev->dev, "region #1 is too small.\n");
1092                 return -EINVAL;
1093         }
1094         vptr->pdev = pdev;
1095
1096         return 0;
1097 }
1098
1099 /**
1100  *      velocity_init_dma_rings -       set up DMA rings
1101  *      @vptr: Velocity to set up
1102  *
1103  *      Allocate PCI mapped DMA rings for the receive and transmit layer
1104  *      to use.
1105  */
1106
1107 static int velocity_init_dma_rings(struct velocity_info *vptr)
1108 {
1109         struct velocity_opt *opt = &vptr->options;
1110         const unsigned int rx_ring_size = opt->numrx * sizeof(struct rx_desc);
1111         const unsigned int tx_ring_size = opt->numtx * sizeof(struct tx_desc);
1112         struct pci_dev *pdev = vptr->pdev;
1113         dma_addr_t pool_dma;
1114         void *pool;
1115         unsigned int i;
1116
1117         /*
1118          * Allocate all RD/TD rings a single pool.
1119          *
1120          * pci_alloc_consistent() fulfills the requirement for 64 bytes
1121          * alignment
1122          */
1123         pool = pci_alloc_consistent(pdev, tx_ring_size * vptr->tx.numq +
1124                                     rx_ring_size, &pool_dma);
1125         if (!pool) {
1126                 dev_err(&pdev->dev, "%s : DMA memory allocation failed.\n",
1127                         vptr->dev->name);
1128                 return -ENOMEM;
1129         }
1130
1131         vptr->rx.ring = pool;
1132         vptr->rx.pool_dma = pool_dma;
1133
1134         pool += rx_ring_size;
1135         pool_dma += rx_ring_size;
1136
1137         for (i = 0; i < vptr->tx.numq; i++) {
1138                 vptr->tx.rings[i] = pool;
1139                 vptr->tx.pool_dma[i] = pool_dma;
1140                 pool += tx_ring_size;
1141                 pool_dma += tx_ring_size;
1142         }
1143
1144         return 0;
1145 }
1146
1147 /**
1148  *      velocity_free_dma_rings -       free PCI ring pointers
1149  *      @vptr: Velocity to free from
1150  *
1151  *      Clean up the PCI ring buffers allocated to this velocity.
1152  */
1153
1154 static void velocity_free_dma_rings(struct velocity_info *vptr)
1155 {
1156         const int size = vptr->options.numrx * sizeof(struct rx_desc) +
1157                 vptr->options.numtx * sizeof(struct tx_desc) * vptr->tx.numq;
1158
1159         pci_free_consistent(vptr->pdev, size, vptr->rx.ring, vptr->rx.pool_dma);
1160 }
1161
1162 static void velocity_give_many_rx_descs(struct velocity_info *vptr)
1163 {
1164         struct mac_regs __iomem *regs = vptr->mac_regs;
1165         int avail, dirty, unusable;
1166
1167         /*
1168          * RD number must be equal to 4X per hardware spec
1169          * (programming guide rev 1.20, p.13)
1170          */
1171         if (vptr->rx.filled < 4)
1172                 return;
1173
1174         wmb();
1175
1176         unusable = vptr->rx.filled & 0x0003;
1177         dirty = vptr->rx.dirty - unusable;
1178         for (avail = vptr->rx.filled & 0xfffc; avail; avail--) {
1179                 dirty = (dirty > 0) ? dirty - 1 : vptr->options.numrx - 1;
1180                 vptr->rx.ring[dirty].rdesc0.len |= OWNED_BY_NIC;
1181         }
1182
1183         writew(vptr->rx.filled & 0xfffc, &regs->RBRDU);
1184         vptr->rx.filled = unusable;
1185 }
1186
1187 static int velocity_rx_refill(struct velocity_info *vptr)
1188 {
1189         int dirty = vptr->rx.dirty, done = 0;
1190
1191         do {
1192                 struct rx_desc *rd = vptr->rx.ring + dirty;
1193
1194                 /* Fine for an all zero Rx desc at init time as well */
1195                 if (rd->rdesc0.len & OWNED_BY_NIC)
1196                         break;
1197
1198                 if (!vptr->rx.info[dirty].skb) {
1199                         if (velocity_alloc_rx_buf(vptr, dirty) < 0)
1200                                 break;
1201                 }
1202                 done++;
1203                 dirty = (dirty < vptr->options.numrx - 1) ? dirty + 1 : 0;
1204         } while (dirty != vptr->rx.curr);
1205
1206         if (done) {
1207                 vptr->rx.dirty = dirty;
1208                 vptr->rx.filled += done;
1209         }
1210
1211         return done;
1212 }
1213
1214 static void velocity_set_rxbufsize(struct velocity_info *vptr, int mtu)
1215 {
1216         vptr->rx.buf_sz = (mtu <= ETH_DATA_LEN) ? PKT_BUF_SZ : mtu + 32;
1217 }
1218
1219 /**
1220  *      velocity_init_rd_ring   -       set up receive ring
1221  *      @vptr: velocity to configure
1222  *
1223  *      Allocate and set up the receive buffers for each ring slot and
1224  *      assign them to the network adapter.
1225  */
1226
1227 static int velocity_init_rd_ring(struct velocity_info *vptr)
1228 {
1229         int ret = -ENOMEM;
1230
1231         vptr->rx.info = kcalloc(vptr->options.numrx,
1232                                 sizeof(struct velocity_rd_info), GFP_KERNEL);
1233         if (!vptr->rx.info)
1234                 goto out;
1235
1236         velocity_init_rx_ring_indexes(vptr);
1237
1238         if (velocity_rx_refill(vptr) != vptr->options.numrx) {
1239                 VELOCITY_PRT(MSG_LEVEL_ERR, KERN_ERR
1240                         "%s: failed to allocate RX buffer.\n", vptr->dev->name);
1241                 velocity_free_rd_ring(vptr);
1242                 goto out;
1243         }
1244
1245         ret = 0;
1246 out:
1247         return ret;
1248 }
1249
1250 /**
1251  *      velocity_free_rd_ring   -       free receive ring
1252  *      @vptr: velocity to clean up
1253  *
1254  *      Free the receive buffers for each ring slot and any
1255  *      attached socket buffers that need to go away.
1256  */
1257
1258 static void velocity_free_rd_ring(struct velocity_info *vptr)
1259 {
1260         int i;
1261
1262         if (vptr->rx.info == NULL)
1263                 return;
1264
1265         for (i = 0; i < vptr->options.numrx; i++) {
1266                 struct velocity_rd_info *rd_info = &(vptr->rx.info[i]);
1267                 struct rx_desc *rd = vptr->rx.ring + i;
1268
1269                 memset(rd, 0, sizeof(*rd));
1270
1271                 if (!rd_info->skb)
1272                         continue;
1273                 pci_unmap_single(vptr->pdev, rd_info->skb_dma, vptr->rx.buf_sz,
1274                                  PCI_DMA_FROMDEVICE);
1275                 rd_info->skb_dma = (dma_addr_t) NULL;
1276
1277                 dev_kfree_skb(rd_info->skb);
1278                 rd_info->skb = NULL;
1279         }
1280
1281         kfree(vptr->rx.info);
1282         vptr->rx.info = NULL;
1283 }
1284
1285 /**
1286  *      velocity_init_td_ring   -       set up transmit ring
1287  *      @vptr:  velocity
1288  *
1289  *      Set up the transmit ring and chain the ring pointers together.
1290  *      Returns zero on success or a negative posix errno code for
1291  *      failure.
1292  */
1293
1294 static int velocity_init_td_ring(struct velocity_info *vptr)
1295 {
1296         dma_addr_t curr;
1297         unsigned int j;
1298
1299         /* Init the TD ring entries */
1300         for (j = 0; j < vptr->tx.numq; j++) {
1301                 curr = vptr->tx.pool_dma[j];
1302
1303                 vptr->tx.infos[j] = kcalloc(vptr->options.numtx,
1304                                             sizeof(struct velocity_td_info),
1305                                             GFP_KERNEL);
1306                 if (!vptr->tx.infos[j]) {
1307                         while(--j >= 0)
1308                                 kfree(vptr->tx.infos[j]);
1309                         return -ENOMEM;
1310                 }
1311
1312                 vptr->tx.tail[j] = vptr->tx.curr[j] = vptr->tx.used[j] = 0;
1313         }
1314         return 0;
1315 }
1316
1317 /*
1318  *      FIXME: could we merge this with velocity_free_tx_buf ?
1319  */
1320
1321 static void velocity_free_td_ring_entry(struct velocity_info *vptr,
1322                                                          int q, int n)
1323 {
1324         struct velocity_td_info * td_info = &(vptr->tx.infos[q][n]);
1325         int i;
1326
1327         if (td_info == NULL)
1328                 return;
1329
1330         if (td_info->skb) {
1331                 for (i = 0; i < td_info->nskb_dma; i++)
1332                 {
1333                         if (td_info->skb_dma[i]) {
1334                                 pci_unmap_single(vptr->pdev, td_info->skb_dma[i],
1335                                         td_info->skb->len, PCI_DMA_TODEVICE);
1336                                 td_info->skb_dma[i] = (dma_addr_t) NULL;
1337                         }
1338                 }
1339                 dev_kfree_skb(td_info->skb);
1340                 td_info->skb = NULL;
1341         }
1342 }
1343
1344 /**
1345  *      velocity_free_td_ring   -       free td ring
1346  *      @vptr: velocity
1347  *
1348  *      Free up the transmit ring for this particular velocity adapter.
1349  *      We free the ring contents but not the ring itself.
1350  */
1351
1352 static void velocity_free_td_ring(struct velocity_info *vptr)
1353 {
1354         int i, j;
1355
1356         for (j = 0; j < vptr->tx.numq; j++) {
1357                 if (vptr->tx.infos[j] == NULL)
1358                         continue;
1359                 for (i = 0; i < vptr->options.numtx; i++) {
1360                         velocity_free_td_ring_entry(vptr, j, i);
1361
1362                 }
1363                 kfree(vptr->tx.infos[j]);
1364                 vptr->tx.infos[j] = NULL;
1365         }
1366 }
1367
1368 /**
1369  *      velocity_rx_srv         -       service RX interrupt
1370  *      @vptr: velocity
1371  *      @status: adapter status (unused)
1372  *
1373  *      Walk the receive ring of the velocity adapter and remove
1374  *      any received packets from the receive queue. Hand the ring
1375  *      slots back to the adapter for reuse.
1376  */
1377
1378 static int velocity_rx_srv(struct velocity_info *vptr, int status)
1379 {
1380         struct net_device_stats *stats = &vptr->stats;
1381         int rd_curr = vptr->rx.curr;
1382         int works = 0;
1383
1384         do {
1385                 struct rx_desc *rd = vptr->rx.ring + rd_curr;
1386
1387                 if (!vptr->rx.info[rd_curr].skb)
1388                         break;
1389
1390                 if (rd->rdesc0.len & OWNED_BY_NIC)
1391                         break;
1392
1393                 rmb();
1394
1395                 /*
1396                  *      Don't drop CE or RL error frame although RXOK is off
1397                  */
1398                 if (rd->rdesc0.RSR & (RSR_RXOK | RSR_CE | RSR_RL)) {
1399                         if (velocity_receive_frame(vptr, rd_curr) < 0)
1400                                 stats->rx_dropped++;
1401                 } else {
1402                         if (rd->rdesc0.RSR & RSR_CRC)
1403                                 stats->rx_crc_errors++;
1404                         if (rd->rdesc0.RSR & RSR_FAE)
1405                                 stats->rx_frame_errors++;
1406
1407                         stats->rx_dropped++;
1408                 }
1409
1410                 rd->size |= RX_INTEN;
1411
1412                 vptr->dev->last_rx = jiffies;
1413
1414                 rd_curr++;
1415                 if (rd_curr >= vptr->options.numrx)
1416                         rd_curr = 0;
1417         } while (++works <= 15);
1418
1419         vptr->rx.curr = rd_curr;
1420
1421         if ((works > 0) && (velocity_rx_refill(vptr) > 0))
1422                 velocity_give_many_rx_descs(vptr);
1423
1424         VAR_USED(stats);
1425         return works;
1426 }
1427
1428 /**
1429  *      velocity_rx_csum        -       checksum process
1430  *      @rd: receive packet descriptor
1431  *      @skb: network layer packet buffer
1432  *
1433  *      Process the status bits for the received packet and determine
1434  *      if the checksum was computed and verified by the hardware
1435  */
1436
1437 static inline void velocity_rx_csum(struct rx_desc *rd, struct sk_buff *skb)
1438 {
1439         skb->ip_summed = CHECKSUM_NONE;
1440
1441         if (rd->rdesc1.CSM & CSM_IPKT) {
1442                 if (rd->rdesc1.CSM & CSM_IPOK) {
1443                         if ((rd->rdesc1.CSM & CSM_TCPKT) ||
1444                                         (rd->rdesc1.CSM & CSM_UDPKT)) {
1445                                 if (!(rd->rdesc1.CSM & CSM_TUPOK)) {
1446                                         return;
1447                                 }
1448                         }
1449                         skb->ip_summed = CHECKSUM_UNNECESSARY;
1450                 }
1451         }
1452 }
1453
1454 /**
1455  *      velocity_rx_copy        -       in place Rx copy for small packets
1456  *      @rx_skb: network layer packet buffer candidate
1457  *      @pkt_size: received data size
1458  *      @rd: receive packet descriptor
1459  *      @dev: network device
1460  *
1461  *      Replace the current skb that is scheduled for Rx processing by a
1462  *      shorter, immediatly allocated skb, if the received packet is small
1463  *      enough. This function returns a negative value if the received
1464  *      packet is too big or if memory is exhausted.
1465  */
1466 static int velocity_rx_copy(struct sk_buff **rx_skb, int pkt_size,
1467                             struct velocity_info *vptr)
1468 {
1469         int ret = -1;
1470         if (pkt_size < rx_copybreak) {
1471                 struct sk_buff *new_skb;
1472
1473                 new_skb = netdev_alloc_skb(vptr->dev, pkt_size + 2);
1474                 if (new_skb) {
1475                         new_skb->ip_summed = rx_skb[0]->ip_summed;
1476                         skb_reserve(new_skb, 2);
1477                         skb_copy_from_linear_data(*rx_skb, new_skb->data, pkt_size);
1478                         *rx_skb = new_skb;
1479                         ret = 0;
1480                 }
1481
1482         }
1483         return ret;
1484 }
1485
1486 /**
1487  *      velocity_iph_realign    -       IP header alignment
1488  *      @vptr: velocity we are handling
1489  *      @skb: network layer packet buffer
1490  *      @pkt_size: received data size
1491  *
1492  *      Align IP header on a 2 bytes boundary. This behavior can be
1493  *      configured by the user.
1494  */
1495 static inline void velocity_iph_realign(struct velocity_info *vptr,
1496                                         struct sk_buff *skb, int pkt_size)
1497 {
1498         if (vptr->flags & VELOCITY_FLAGS_IP_ALIGN) {
1499                 memmove(skb->data + 2, skb->data, pkt_size);
1500                 skb_reserve(skb, 2);
1501         }
1502 }
1503
1504 /**
1505  *      velocity_receive_frame  -       received packet processor
1506  *      @vptr: velocity we are handling
1507  *      @idx: ring index
1508  *
1509  *      A packet has arrived. We process the packet and if appropriate
1510  *      pass the frame up the network stack
1511  */
1512
1513 static int velocity_receive_frame(struct velocity_info *vptr, int idx)
1514 {
1515         void (*pci_action)(struct pci_dev *, dma_addr_t, size_t, int);
1516         struct net_device_stats *stats = &vptr->stats;
1517         struct velocity_rd_info *rd_info = &(vptr->rx.info[idx]);
1518         struct rx_desc *rd = &(vptr->rx.ring[idx]);
1519         int pkt_len = le16_to_cpu(rd->rdesc0.len) & 0x3fff;
1520         struct sk_buff *skb;
1521
1522         if (rd->rdesc0.RSR & (RSR_STP | RSR_EDP)) {
1523                 VELOCITY_PRT(MSG_LEVEL_VERBOSE, KERN_ERR " %s : the received frame span multple RDs.\n", vptr->dev->name);
1524                 stats->rx_length_errors++;
1525                 return -EINVAL;
1526         }
1527
1528         if (rd->rdesc0.RSR & RSR_MAR)
1529                 vptr->stats.multicast++;
1530
1531         skb = rd_info->skb;
1532
1533         pci_dma_sync_single_for_cpu(vptr->pdev, rd_info->skb_dma,
1534                                     vptr->rx.buf_sz, PCI_DMA_FROMDEVICE);
1535
1536         /*
1537          *      Drop frame not meeting IEEE 802.3
1538          */
1539
1540         if (vptr->flags & VELOCITY_FLAGS_VAL_PKT_LEN) {
1541                 if (rd->rdesc0.RSR & RSR_RL) {
1542                         stats->rx_length_errors++;
1543                         return -EINVAL;
1544                 }
1545         }
1546
1547         pci_action = pci_dma_sync_single_for_device;
1548
1549         velocity_rx_csum(rd, skb);
1550
1551         if (velocity_rx_copy(&skb, pkt_len, vptr) < 0) {
1552                 velocity_iph_realign(vptr, skb, pkt_len);
1553                 pci_action = pci_unmap_single;
1554                 rd_info->skb = NULL;
1555         }
1556
1557         pci_action(vptr->pdev, rd_info->skb_dma, vptr->rx.buf_sz,
1558                    PCI_DMA_FROMDEVICE);
1559
1560         skb_put(skb, pkt_len - 4);
1561         skb->protocol = eth_type_trans(skb, vptr->dev);
1562
1563         if (vptr->vlgrp && (rd->rdesc0.RSR & RSR_DETAG)) {
1564                 vlan_hwaccel_rx(skb, vptr->vlgrp,
1565                                 swab16(le16_to_cpu(rd->rdesc1.PQTAG)));
1566         } else
1567                 netif_rx(skb);
1568
1569         stats->rx_bytes += pkt_len;
1570
1571         return 0;
1572 }
1573
1574 /**
1575  *      velocity_alloc_rx_buf   -       allocate aligned receive buffer
1576  *      @vptr: velocity
1577  *      @idx: ring index
1578  *
1579  *      Allocate a new full sized buffer for the reception of a frame and
1580  *      map it into PCI space for the hardware to use. The hardware
1581  *      requires *64* byte alignment of the buffer which makes life
1582  *      less fun than would be ideal.
1583  */
1584
1585 static int velocity_alloc_rx_buf(struct velocity_info *vptr, int idx)
1586 {
1587         struct rx_desc *rd = &(vptr->rx.ring[idx]);
1588         struct velocity_rd_info *rd_info = &(vptr->rx.info[idx]);
1589
1590         rd_info->skb = dev_alloc_skb(vptr->rx.buf_sz + 64);
1591         if (rd_info->skb == NULL)
1592                 return -ENOMEM;
1593
1594         /*
1595          *      Do the gymnastics to get the buffer head for data at
1596          *      64byte alignment.
1597          */
1598         skb_reserve(rd_info->skb, (unsigned long) rd_info->skb->data & 63);
1599         rd_info->skb_dma = pci_map_single(vptr->pdev, rd_info->skb->data,
1600                                         vptr->rx.buf_sz, PCI_DMA_FROMDEVICE);
1601
1602         /*
1603          *      Fill in the descriptor to match
1604          */
1605
1606         *((u32 *) & (rd->rdesc0)) = 0;
1607         rd->size = cpu_to_le16(vptr->rx.buf_sz) | RX_INTEN;
1608         rd->pa_low = cpu_to_le32(rd_info->skb_dma);
1609         rd->pa_high = 0;
1610         return 0;
1611 }
1612
1613 /**
1614  *      tx_srv          -       transmit interrupt service
1615  *      @vptr; Velocity
1616  *      @status:
1617  *
1618  *      Scan the queues looking for transmitted packets that
1619  *      we can complete and clean up. Update any statistics as
1620  *      necessary/
1621  */
1622
1623 static int velocity_tx_srv(struct velocity_info *vptr, u32 status)
1624 {
1625         struct tx_desc *td;
1626         int qnum;
1627         int full = 0;
1628         int idx;
1629         int works = 0;
1630         struct velocity_td_info *tdinfo;
1631         struct net_device_stats *stats = &vptr->stats;
1632
1633         for (qnum = 0; qnum < vptr->tx.numq; qnum++) {
1634                 for (idx = vptr->tx.tail[qnum]; vptr->tx.used[qnum] > 0;
1635                         idx = (idx + 1) % vptr->options.numtx) {
1636
1637                         /*
1638                          *      Get Tx Descriptor
1639                          */
1640                         td = &(vptr->tx.rings[qnum][idx]);
1641                         tdinfo = &(vptr->tx.infos[qnum][idx]);
1642
1643                         if (td->tdesc0.len & OWNED_BY_NIC)
1644                                 break;
1645
1646                         if ((works++ > 15))
1647                                 break;
1648
1649                         if (td->tdesc0.TSR & TSR0_TERR) {
1650                                 stats->tx_errors++;
1651                                 stats->tx_dropped++;
1652                                 if (td->tdesc0.TSR & TSR0_CDH)
1653                                         stats->tx_heartbeat_errors++;
1654                                 if (td->tdesc0.TSR & TSR0_CRS)
1655                                         stats->tx_carrier_errors++;
1656                                 if (td->tdesc0.TSR & TSR0_ABT)
1657                                         stats->tx_aborted_errors++;
1658                                 if (td->tdesc0.TSR & TSR0_OWC)
1659                                         stats->tx_window_errors++;
1660                         } else {
1661                                 stats->tx_packets++;
1662                                 stats->tx_bytes += tdinfo->skb->len;
1663                         }
1664                         velocity_free_tx_buf(vptr, tdinfo);
1665                         vptr->tx.used[qnum]--;
1666                 }
1667                 vptr->tx.tail[qnum] = idx;
1668
1669                 if (AVAIL_TD(vptr, qnum) < 1) {
1670                         full = 1;
1671                 }
1672         }
1673         /*
1674          *      Look to see if we should kick the transmit network
1675          *      layer for more work.
1676          */
1677         if (netif_queue_stopped(vptr->dev) && (full == 0)
1678             && (!(vptr->mii_status & VELOCITY_LINK_FAIL))) {
1679                 netif_wake_queue(vptr->dev);
1680         }
1681         return works;
1682 }
1683
1684 /**
1685  *      velocity_print_link_status      -       link status reporting
1686  *      @vptr: velocity to report on
1687  *
1688  *      Turn the link status of the velocity card into a kernel log
1689  *      description of the new link state, detailing speed and duplex
1690  *      status
1691  */
1692
1693 static void velocity_print_link_status(struct velocity_info *vptr)
1694 {
1695
1696         if (vptr->mii_status & VELOCITY_LINK_FAIL) {
1697                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_NOTICE "%s: failed to detect cable link\n", vptr->dev->name);
1698         } else if (vptr->options.spd_dpx == SPD_DPX_AUTO) {
1699                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_NOTICE "%s: Link auto-negotiation", vptr->dev->name);
1700
1701                 if (vptr->mii_status & VELOCITY_SPEED_1000)
1702                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 1000M bps");
1703                 else if (vptr->mii_status & VELOCITY_SPEED_100)
1704                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 100M bps");
1705                 else
1706                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 10M bps");
1707
1708                 if (vptr->mii_status & VELOCITY_DUPLEX_FULL)
1709                         VELOCITY_PRT(MSG_LEVEL_INFO, " full duplex\n");
1710                 else
1711                         VELOCITY_PRT(MSG_LEVEL_INFO, " half duplex\n");
1712         } else {
1713                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_NOTICE "%s: Link forced", vptr->dev->name);
1714                 switch (vptr->options.spd_dpx) {
1715                 case SPD_DPX_100_HALF:
1716                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 100M bps half duplex\n");
1717                         break;
1718                 case SPD_DPX_100_FULL:
1719                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 100M bps full duplex\n");
1720                         break;
1721                 case SPD_DPX_10_HALF:
1722                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 10M bps half duplex\n");
1723                         break;
1724                 case SPD_DPX_10_FULL:
1725                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 10M bps full duplex\n");
1726                         break;
1727                 default:
1728                         break;
1729                 }
1730         }
1731 }
1732
1733 /**
1734  *      velocity_error  -       handle error from controller
1735  *      @vptr: velocity
1736  *      @status: card status
1737  *
1738  *      Process an error report from the hardware and attempt to recover
1739  *      the card itself. At the moment we cannot recover from some
1740  *      theoretically impossible errors but this could be fixed using
1741  *      the pci_device_failed logic to bounce the hardware
1742  *
1743  */
1744
1745 static void velocity_error(struct velocity_info *vptr, int status)
1746 {
1747
1748         if (status & ISR_TXSTLI) {
1749                 struct mac_regs __iomem * regs = vptr->mac_regs;
1750
1751                 printk(KERN_ERR "TD structure error TDindex=%hx\n", readw(&regs->TDIdx[0]));
1752                 BYTE_REG_BITS_ON(TXESR_TDSTR, &regs->TXESR);
1753                 writew(TRDCSR_RUN, &regs->TDCSRClr);
1754                 netif_stop_queue(vptr->dev);
1755
1756                 /* FIXME: port over the pci_device_failed code and use it
1757                    here */
1758         }
1759
1760         if (status & ISR_SRCI) {
1761                 struct mac_regs __iomem * regs = vptr->mac_regs;
1762                 int linked;
1763
1764                 if (vptr->options.spd_dpx == SPD_DPX_AUTO) {
1765                         vptr->mii_status = check_connection_type(regs);
1766
1767                         /*
1768                          *      If it is a 3119, disable frame bursting in
1769                          *      halfduplex mode and enable it in fullduplex
1770                          *       mode
1771                          */
1772                         if (vptr->rev_id < REV_ID_VT3216_A0) {
1773                                 if (vptr->mii_status | VELOCITY_DUPLEX_FULL)
1774                                         BYTE_REG_BITS_ON(TCR_TB2BDIS, &regs->TCR);
1775                                 else
1776                                         BYTE_REG_BITS_OFF(TCR_TB2BDIS, &regs->TCR);
1777                         }
1778                         /*
1779                          *      Only enable CD heart beat counter in 10HD mode
1780                          */
1781                         if (!(vptr->mii_status & VELOCITY_DUPLEX_FULL) && (vptr->mii_status & VELOCITY_SPEED_10)) {
1782                                 BYTE_REG_BITS_OFF(TESTCFG_HBDIS, &regs->TESTCFG);
1783                         } else {
1784                                 BYTE_REG_BITS_ON(TESTCFG_HBDIS, &regs->TESTCFG);
1785                         }
1786                 }
1787                 /*
1788                  *      Get link status from PHYSR0
1789                  */
1790                 linked = readb(&regs->PHYSR0) & PHYSR0_LINKGD;
1791
1792                 if (linked) {
1793                         vptr->mii_status &= ~VELOCITY_LINK_FAIL;
1794                         netif_carrier_on(vptr->dev);
1795                 } else {
1796                         vptr->mii_status |= VELOCITY_LINK_FAIL;
1797                         netif_carrier_off(vptr->dev);
1798                 }
1799
1800                 velocity_print_link_status(vptr);
1801                 enable_flow_control_ability(vptr);
1802
1803                 /*
1804                  *      Re-enable auto-polling because SRCI will disable
1805                  *      auto-polling
1806                  */
1807
1808                 enable_mii_autopoll(regs);
1809
1810                 if (vptr->mii_status & VELOCITY_LINK_FAIL)
1811                         netif_stop_queue(vptr->dev);
1812                 else
1813                         netif_wake_queue(vptr->dev);
1814
1815         };
1816         if (status & ISR_MIBFI)
1817                 velocity_update_hw_mibs(vptr);
1818         if (status & ISR_LSTEI)
1819                 mac_rx_queue_wake(vptr->mac_regs);
1820 }
1821
1822 /**
1823  *      velocity_free_tx_buf    -       free transmit buffer
1824  *      @vptr: velocity
1825  *      @tdinfo: buffer
1826  *
1827  *      Release an transmit buffer. If the buffer was preallocated then
1828  *      recycle it, if not then unmap the buffer.
1829  */
1830
1831 static void velocity_free_tx_buf(struct velocity_info *vptr, struct velocity_td_info *tdinfo)
1832 {
1833         struct sk_buff *skb = tdinfo->skb;
1834         int i;
1835
1836         /*
1837          *      Don't unmap the pre-allocated tx_bufs
1838          */
1839         if (tdinfo->skb_dma) {
1840
1841                 for (i = 0; i < tdinfo->nskb_dma; i++) {
1842 #ifdef VELOCITY_ZERO_COPY_SUPPORT
1843                         pci_unmap_single(vptr->pdev, tdinfo->skb_dma[i], le16_to_cpu(td->tdesc1.len), PCI_DMA_TODEVICE);
1844 #else
1845                         pci_unmap_single(vptr->pdev, tdinfo->skb_dma[i], skb->len, PCI_DMA_TODEVICE);
1846 #endif
1847                         tdinfo->skb_dma[i] = 0;
1848                 }
1849         }
1850         dev_kfree_skb_irq(skb);
1851         tdinfo->skb = NULL;
1852 }
1853
1854 static int velocity_init_rings(struct velocity_info *vptr, int mtu)
1855 {
1856         int ret;
1857
1858         velocity_set_rxbufsize(vptr, mtu);
1859
1860         ret = velocity_init_dma_rings(vptr);
1861         if (ret < 0)
1862                 goto out;
1863
1864         ret = velocity_init_rd_ring(vptr);
1865         if (ret < 0)
1866                 goto err_free_dma_rings_0;
1867
1868         ret = velocity_init_td_ring(vptr);
1869         if (ret < 0)
1870                 goto err_free_rd_ring_1;
1871 out:
1872         return ret;
1873
1874 err_free_rd_ring_1:
1875         velocity_free_rd_ring(vptr);
1876 err_free_dma_rings_0:
1877         velocity_free_dma_rings(vptr);
1878         goto out;
1879 }
1880
1881 static void velocity_free_rings(struct velocity_info *vptr)
1882 {
1883         velocity_free_td_ring(vptr);
1884         velocity_free_rd_ring(vptr);
1885         velocity_free_dma_rings(vptr);
1886 }
1887
1888 /**
1889  *      velocity_open           -       interface activation callback
1890  *      @dev: network layer device to open
1891  *
1892  *      Called when the network layer brings the interface up. Returns
1893  *      a negative posix error code on failure, or zero on success.
1894  *
1895  *      All the ring allocation and set up is done on open for this
1896  *      adapter to minimise memory usage when inactive
1897  */
1898
1899 static int velocity_open(struct net_device *dev)
1900 {
1901         struct velocity_info *vptr = netdev_priv(dev);
1902         int ret;
1903
1904         ret = velocity_init_rings(vptr, dev->mtu);
1905         if (ret < 0)
1906                 goto out;
1907
1908         /* Ensure chip is running */
1909         pci_set_power_state(vptr->pdev, PCI_D0);
1910
1911         velocity_give_many_rx_descs(vptr);
1912
1913         velocity_init_registers(vptr, VELOCITY_INIT_COLD);
1914
1915         ret = request_irq(vptr->pdev->irq, &velocity_intr, IRQF_SHARED,
1916                           dev->name, dev);
1917         if (ret < 0) {
1918                 /* Power down the chip */
1919                 pci_set_power_state(vptr->pdev, PCI_D3hot);
1920                 velocity_free_rings(vptr);
1921                 goto out;
1922         }
1923
1924         mac_enable_int(vptr->mac_regs);
1925         netif_start_queue(dev);
1926         vptr->flags |= VELOCITY_FLAGS_OPENED;
1927 out:
1928         return ret;
1929 }
1930
1931 /**
1932  *      velocity_change_mtu     -       MTU change callback
1933  *      @dev: network device
1934  *      @new_mtu: desired MTU
1935  *
1936  *      Handle requests from the networking layer for MTU change on
1937  *      this interface. It gets called on a change by the network layer.
1938  *      Return zero for success or negative posix error code.
1939  */
1940
1941 static int velocity_change_mtu(struct net_device *dev, int new_mtu)
1942 {
1943         struct velocity_info *vptr = netdev_priv(dev);
1944         int ret = 0;
1945
1946         if ((new_mtu < VELOCITY_MIN_MTU) || new_mtu > (VELOCITY_MAX_MTU)) {
1947                 VELOCITY_PRT(MSG_LEVEL_ERR, KERN_NOTICE "%s: Invalid MTU.\n",
1948                                 vptr->dev->name);
1949                 ret = -EINVAL;
1950                 goto out_0;
1951         }
1952
1953         if (!netif_running(dev)) {
1954                 dev->mtu = new_mtu;
1955                 goto out_0;
1956         }
1957
1958         if (dev->mtu != new_mtu) {
1959                 struct velocity_info *tmp_vptr;
1960                 unsigned long flags;
1961                 struct rx_info rx;
1962                 struct tx_info tx;
1963
1964                 tmp_vptr = kzalloc(sizeof(*tmp_vptr), GFP_KERNEL);
1965                 if (!tmp_vptr) {
1966                         ret = -ENOMEM;
1967                         goto out_0;
1968                 }
1969
1970                 tmp_vptr->dev = dev;
1971                 tmp_vptr->pdev = vptr->pdev;
1972                 tmp_vptr->options = vptr->options;
1973                 tmp_vptr->tx.numq = vptr->tx.numq;
1974
1975                 ret = velocity_init_rings(tmp_vptr, new_mtu);
1976                 if (ret < 0)
1977                         goto out_free_tmp_vptr_1;
1978
1979                 spin_lock_irqsave(&vptr->lock, flags);
1980
1981                 netif_stop_queue(dev);
1982                 velocity_shutdown(vptr);
1983
1984                 rx = vptr->rx;
1985                 tx = vptr->tx;
1986
1987                 vptr->rx = tmp_vptr->rx;
1988                 vptr->tx = tmp_vptr->tx;
1989
1990                 tmp_vptr->rx = rx;
1991                 tmp_vptr->tx = tx;
1992
1993                 dev->mtu = new_mtu;
1994
1995                 velocity_give_many_rx_descs(vptr);
1996
1997                 velocity_init_registers(vptr, VELOCITY_INIT_COLD);
1998
1999                 mac_enable_int(vptr->mac_regs);
2000                 netif_start_queue(dev);
2001
2002                 spin_unlock_irqrestore(&vptr->lock, flags);
2003
2004                 velocity_free_rings(tmp_vptr);
2005
2006 out_free_tmp_vptr_1:
2007                 kfree(tmp_vptr);
2008         }
2009 out_0:
2010         return ret;
2011 }
2012
2013 /**
2014  *      velocity_shutdown       -       shut down the chip
2015  *      @vptr: velocity to deactivate
2016  *
2017  *      Shuts down the internal operations of the velocity and
2018  *      disables interrupts, autopolling, transmit and receive
2019  */
2020
2021 static void velocity_shutdown(struct velocity_info *vptr)
2022 {
2023         struct mac_regs __iomem * regs = vptr->mac_regs;
2024         mac_disable_int(regs);
2025         writel(CR0_STOP, &regs->CR0Set);
2026         writew(0xFFFF, &regs->TDCSRClr);
2027         writeb(0xFF, &regs->RDCSRClr);
2028         safe_disable_mii_autopoll(regs);
2029         mac_clear_isr(regs);
2030 }
2031
2032 /**
2033  *      velocity_close          -       close adapter callback
2034  *      @dev: network device
2035  *
2036  *      Callback from the network layer when the velocity is being
2037  *      deactivated by the network layer
2038  */
2039
2040 static int velocity_close(struct net_device *dev)
2041 {
2042         struct velocity_info *vptr = netdev_priv(dev);
2043
2044         netif_stop_queue(dev);
2045         velocity_shutdown(vptr);
2046
2047         if (vptr->flags & VELOCITY_FLAGS_WOL_ENABLED)
2048                 velocity_get_ip(vptr);
2049         if (dev->irq != 0)
2050                 free_irq(dev->irq, dev);
2051
2052         /* Power down the chip */
2053         pci_set_power_state(vptr->pdev, PCI_D3hot);
2054
2055         velocity_free_rings(vptr);
2056
2057         vptr->flags &= (~VELOCITY_FLAGS_OPENED);
2058         return 0;
2059 }
2060
2061 /**
2062  *      velocity_xmit           -       transmit packet callback
2063  *      @skb: buffer to transmit
2064  *      @dev: network device
2065  *
2066  *      Called by the networ layer to request a packet is queued to
2067  *      the velocity. Returns zero on success.
2068  */
2069
2070 static int velocity_xmit(struct sk_buff *skb, struct net_device *dev)
2071 {
2072         struct velocity_info *vptr = netdev_priv(dev);
2073         int qnum = 0;
2074         struct tx_desc *td_ptr;
2075         struct velocity_td_info *tdinfo;
2076         unsigned long flags;
2077         int pktlen = skb->len;
2078         __le16 len;
2079         int index;
2080
2081
2082
2083         if (skb->len < ETH_ZLEN) {
2084                 if (skb_padto(skb, ETH_ZLEN))
2085                         goto out;
2086                 pktlen = ETH_ZLEN;
2087         }
2088
2089         len = cpu_to_le16(pktlen);
2090
2091 #ifdef VELOCITY_ZERO_COPY_SUPPORT
2092         if (skb_shinfo(skb)->nr_frags > 6 && __skb_linearize(skb)) {
2093                 kfree_skb(skb);
2094                 return 0;
2095         }
2096 #endif
2097
2098         spin_lock_irqsave(&vptr->lock, flags);
2099
2100         index = vptr->tx.curr[qnum];
2101         td_ptr = &(vptr->tx.rings[qnum][index]);
2102         tdinfo = &(vptr->tx.infos[qnum][index]);
2103
2104         td_ptr->tdesc1.TCR = TCR0_TIC;
2105         td_ptr->td_buf[0].size &= ~TD_QUEUE;
2106
2107 #ifdef VELOCITY_ZERO_COPY_SUPPORT
2108         if (skb_shinfo(skb)->nr_frags > 0) {
2109                 int nfrags = skb_shinfo(skb)->nr_frags;
2110                 tdinfo->skb = skb;
2111                 if (nfrags > 6) {
2112                         skb_copy_from_linear_data(skb, tdinfo->buf, skb->len);
2113                         tdinfo->skb_dma[0] = tdinfo->buf_dma;
2114                         td_ptr->tdesc0.len = len;
2115                         td_ptr->tx.buf[0].pa_low = cpu_to_le32(tdinfo->skb_dma[0]);
2116                         td_ptr->tx.buf[0].pa_high = 0;
2117                         td_ptr->tx.buf[0].size = len;   /* queue is 0 anyway */
2118                         tdinfo->nskb_dma = 1;
2119                 } else {
2120                         int i = 0;
2121                         tdinfo->nskb_dma = 0;
2122                         tdinfo->skb_dma[i] = pci_map_single(vptr->pdev, skb->data,
2123                                                 skb_headlen(skb), PCI_DMA_TODEVICE);
2124
2125                         td_ptr->tdesc0.len = len;
2126
2127                         /* FIXME: support 48bit DMA later */
2128                         td_ptr->tx.buf[i].pa_low = cpu_to_le32(tdinfo->skb_dma);
2129                         td_ptr->tx.buf[i].pa_high = 0;
2130                         td_ptr->tx.buf[i].size = cpu_to_le16(skb_headlen(skb));
2131
2132                         for (i = 0; i < nfrags; i++) {
2133                                 skb_frag_t *frag = &skb_shinfo(skb)->frags[i];
2134                                 void *addr = (void *)page_address(frag->page) + frag->page_offset;
2135
2136                                 tdinfo->skb_dma[i + 1] = pci_map_single(vptr->pdev, addr, frag->size, PCI_DMA_TODEVICE);
2137
2138                                 td_ptr->tx.buf[i + 1].pa_low = cpu_to_le32(tdinfo->skb_dma[i + 1]);
2139                                 td_ptr->tx.buf[i + 1].pa_high = 0;
2140                                 td_ptr->tx.buf[i + 1].size = cpu_to_le16(frag->size);
2141                         }
2142                         tdinfo->nskb_dma = i - 1;
2143                 }
2144
2145         } else
2146 #endif
2147         {
2148                 /*
2149                  *      Map the linear network buffer into PCI space and
2150                  *      add it to the transmit ring.
2151                  */
2152                 tdinfo->skb = skb;
2153                 tdinfo->skb_dma[0] = pci_map_single(vptr->pdev, skb->data, pktlen, PCI_DMA_TODEVICE);
2154                 td_ptr->tdesc0.len = len;
2155                 td_ptr->td_buf[0].pa_low = cpu_to_le32(tdinfo->skb_dma[0]);
2156                 td_ptr->td_buf[0].pa_high = 0;
2157                 td_ptr->td_buf[0].size = len;
2158                 tdinfo->nskb_dma = 1;
2159         }
2160         td_ptr->tdesc1.cmd = TCPLS_NORMAL + (tdinfo->nskb_dma + 1) * 16;
2161
2162         if (vptr->vlgrp && vlan_tx_tag_present(skb)) {
2163                 td_ptr->tdesc1.vlan = cpu_to_le16(vlan_tx_tag_get(skb));
2164                 td_ptr->tdesc1.TCR |= TCR0_VETAG;
2165         }
2166
2167         /*
2168          *      Handle hardware checksum
2169          */
2170         if ((vptr->flags & VELOCITY_FLAGS_TX_CSUM)
2171                                  && (skb->ip_summed == CHECKSUM_PARTIAL)) {
2172                 const struct iphdr *ip = ip_hdr(skb);
2173                 if (ip->protocol == IPPROTO_TCP)
2174                         td_ptr->tdesc1.TCR |= TCR0_TCPCK;
2175                 else if (ip->protocol == IPPROTO_UDP)
2176                         td_ptr->tdesc1.TCR |= (TCR0_UDPCK);
2177                 td_ptr->tdesc1.TCR |= TCR0_IPCK;
2178         }
2179         {
2180
2181                 int prev = index - 1;
2182
2183                 if (prev < 0)
2184                         prev = vptr->options.numtx - 1;
2185                 td_ptr->tdesc0.len |= OWNED_BY_NIC;
2186                 vptr->tx.used[qnum]++;
2187                 vptr->tx.curr[qnum] = (index + 1) % vptr->options.numtx;
2188
2189                 if (AVAIL_TD(vptr, qnum) < 1)
2190                         netif_stop_queue(dev);
2191
2192                 td_ptr = &(vptr->tx.rings[qnum][prev]);
2193                 td_ptr->td_buf[0].size |= TD_QUEUE;
2194                 mac_tx_queue_wake(vptr->mac_regs, qnum);
2195         }
2196         dev->trans_start = jiffies;
2197         spin_unlock_irqrestore(&vptr->lock, flags);
2198 out:
2199         return NETDEV_TX_OK;
2200 }
2201
2202 /**
2203  *      velocity_intr           -       interrupt callback
2204  *      @irq: interrupt number
2205  *      @dev_instance: interrupting device
2206  *
2207  *      Called whenever an interrupt is generated by the velocity
2208  *      adapter IRQ line. We may not be the source of the interrupt
2209  *      and need to identify initially if we are, and if not exit as
2210  *      efficiently as possible.
2211  */
2212
2213 static int velocity_intr(int irq, void *dev_instance)
2214 {
2215         struct net_device *dev = dev_instance;
2216         struct velocity_info *vptr = netdev_priv(dev);
2217         u32 isr_status;
2218         int max_count = 0;
2219
2220
2221         spin_lock(&vptr->lock);
2222         isr_status = mac_read_isr(vptr->mac_regs);
2223
2224         /* Not us ? */
2225         if (isr_status == 0) {
2226                 spin_unlock(&vptr->lock);
2227                 return IRQ_NONE;
2228         }
2229
2230         mac_disable_int(vptr->mac_regs);
2231
2232         /*
2233          *      Keep processing the ISR until we have completed
2234          *      processing and the isr_status becomes zero
2235          */
2236
2237         while (isr_status != 0) {
2238                 mac_write_isr(vptr->mac_regs, isr_status);
2239                 if (isr_status & (~(ISR_PRXI | ISR_PPRXI | ISR_PTXI | ISR_PPTXI)))
2240                         velocity_error(vptr, isr_status);
2241                 if (isr_status & (ISR_PRXI | ISR_PPRXI))
2242                         max_count += velocity_rx_srv(vptr, isr_status);
2243                 if (isr_status & (ISR_PTXI | ISR_PPTXI))
2244                         max_count += velocity_tx_srv(vptr, isr_status);
2245                 isr_status = mac_read_isr(vptr->mac_regs);
2246                 if (max_count > vptr->options.int_works)
2247                 {
2248                         printk(KERN_WARNING "%s: excessive work at interrupt.\n",
2249                                 dev->name);
2250                         max_count = 0;
2251                 }
2252         }
2253         spin_unlock(&vptr->lock);
2254         mac_enable_int(vptr->mac_regs);
2255         return IRQ_HANDLED;
2256
2257 }
2258
2259
2260 /**
2261  *      velocity_set_multi      -       filter list change callback
2262  *      @dev: network device
2263  *
2264  *      Called by the network layer when the filter lists need to change
2265  *      for a velocity adapter. Reload the CAMs with the new address
2266  *      filter ruleset.
2267  */
2268
2269 static void velocity_set_multi(struct net_device *dev)
2270 {
2271         struct velocity_info *vptr = netdev_priv(dev);
2272         struct mac_regs __iomem * regs = vptr->mac_regs;
2273         u8 rx_mode;
2274         int i;
2275         struct dev_mc_list *mclist;
2276
2277         if (dev->flags & IFF_PROMISC) { /* Set promiscuous. */
2278                 writel(0xffffffff, &regs->MARCAM[0]);
2279                 writel(0xffffffff, &regs->MARCAM[4]);
2280                 rx_mode = (RCR_AM | RCR_AB | RCR_PROM);
2281         } else if ((dev->mc_count > vptr->multicast_limit)
2282                    || (dev->flags & IFF_ALLMULTI)) {
2283                 writel(0xffffffff, &regs->MARCAM[0]);
2284                 writel(0xffffffff, &regs->MARCAM[4]);
2285                 rx_mode = (RCR_AM | RCR_AB);
2286         } else {
2287                 int offset = MCAM_SIZE - vptr->multicast_limit;
2288                 mac_get_cam_mask(regs, vptr->mCAMmask);
2289
2290                 for (i = 0, mclist = dev->mc_list; mclist && i < dev->mc_count; i++, mclist = mclist->next) {
2291                         mac_set_cam(regs, i + offset, mclist->dmi_addr);
2292                         vptr->mCAMmask[(offset + i) / 8] |= 1 << ((offset + i) & 7);
2293                 }
2294
2295                 mac_set_cam_mask(regs, vptr->mCAMmask);
2296                 rx_mode = (RCR_AM | RCR_AB);
2297         }
2298         if (dev->mtu > 1500)
2299                 rx_mode |= RCR_AL;
2300
2301         BYTE_REG_BITS_ON(rx_mode, &regs->RCR);
2302
2303 }
2304
2305 /**
2306  *      velocity_get_status     -       statistics callback
2307  *      @dev: network device
2308  *
2309  *      Callback from the network layer to allow driver statistics
2310  *      to be resynchronized with hardware collected state. In the
2311  *      case of the velocity we need to pull the MIB counters from
2312  *      the hardware into the counters before letting the network
2313  *      layer display them.
2314  */
2315
2316 static struct net_device_stats *velocity_get_stats(struct net_device *dev)
2317 {
2318         struct velocity_info *vptr = netdev_priv(dev);
2319
2320         /* If the hardware is down, don't touch MII */
2321         if(!netif_running(dev))
2322                 return &vptr->stats;
2323
2324         spin_lock_irq(&vptr->lock);
2325         velocity_update_hw_mibs(vptr);
2326         spin_unlock_irq(&vptr->lock);
2327
2328         vptr->stats.rx_packets = vptr->mib_counter[HW_MIB_ifRxAllPkts];
2329         vptr->stats.rx_errors = vptr->mib_counter[HW_MIB_ifRxErrorPkts];
2330         vptr->stats.rx_length_errors = vptr->mib_counter[HW_MIB_ifInRangeLengthErrors];
2331
2332 //  unsigned long   rx_dropped;     /* no space in linux buffers    */
2333         vptr->stats.collisions = vptr->mib_counter[HW_MIB_ifTxEtherCollisions];
2334         /* detailed rx_errors: */
2335 //  unsigned long   rx_length_errors;
2336 //  unsigned long   rx_over_errors;     /* receiver ring buff overflow  */
2337         vptr->stats.rx_crc_errors = vptr->mib_counter[HW_MIB_ifRxPktCRCE];
2338 //  unsigned long   rx_frame_errors;    /* recv'd frame alignment error */
2339 //  unsigned long   rx_fifo_errors;     /* recv'r fifo overrun      */
2340 //  unsigned long   rx_missed_errors;   /* receiver missed packet   */
2341
2342         /* detailed tx_errors */
2343 //  unsigned long   tx_fifo_errors;
2344
2345         return &vptr->stats;
2346 }
2347
2348
2349 /**
2350  *      velocity_ioctl          -       ioctl entry point
2351  *      @dev: network device
2352  *      @rq: interface request ioctl
2353  *      @cmd: command code
2354  *
2355  *      Called when the user issues an ioctl request to the network
2356  *      device in question. The velocity interface supports MII.
2357  */
2358
2359 static int velocity_ioctl(struct net_device *dev, struct ifreq *rq, int cmd)
2360 {
2361         struct velocity_info *vptr = netdev_priv(dev);
2362         int ret;
2363
2364         /* If we are asked for information and the device is power
2365            saving then we need to bring the device back up to talk to it */
2366
2367         if (!netif_running(dev))
2368                 pci_set_power_state(vptr->pdev, PCI_D0);
2369
2370         switch (cmd) {
2371         case SIOCGMIIPHY:       /* Get address of MII PHY in use. */
2372         case SIOCGMIIREG:       /* Read MII PHY register. */
2373         case SIOCSMIIREG:       /* Write to MII PHY register. */
2374                 ret = velocity_mii_ioctl(dev, rq, cmd);
2375                 break;
2376
2377         default:
2378                 ret = -EOPNOTSUPP;
2379         }
2380         if (!netif_running(dev))
2381                 pci_set_power_state(vptr->pdev, PCI_D3hot);
2382
2383
2384         return ret;
2385 }
2386
2387 /*
2388  *      Definition for our device driver. The PCI layer interface
2389  *      uses this to handle all our card discover and plugging
2390  */
2391
2392 static struct pci_driver velocity_driver = {
2393       .name     = VELOCITY_NAME,
2394       .id_table = velocity_id_table,
2395       .probe    = velocity_found1,
2396       .remove   = __devexit_p(velocity_remove1),
2397 #ifdef CONFIG_PM
2398       .suspend  = velocity_suspend,
2399       .resume   = velocity_resume,
2400 #endif
2401 };
2402
2403 /**
2404  *      velocity_init_module    -       load time function
2405  *
2406  *      Called when the velocity module is loaded. The PCI driver
2407  *      is registered with the PCI layer, and in turn will call
2408  *      the probe functions for each velocity adapter installed
2409  *      in the system.
2410  */
2411
2412 static int __init velocity_init_module(void)
2413 {
2414         int ret;
2415
2416         velocity_register_notifier();
2417         ret = pci_register_driver(&velocity_driver);
2418         if (ret < 0)
2419                 velocity_unregister_notifier();
2420         return ret;
2421 }
2422
2423 /**
2424  *      velocity_cleanup        -       module unload
2425  *
2426  *      When the velocity hardware is unloaded this function is called.
2427  *      It will clean up the notifiers and the unregister the PCI
2428  *      driver interface for this hardware. This in turn cleans up
2429  *      all discovered interfaces before returning from the function
2430  */
2431
2432 static void __exit velocity_cleanup_module(void)
2433 {
2434         velocity_unregister_notifier();
2435         pci_unregister_driver(&velocity_driver);
2436 }
2437
2438 module_init(velocity_init_module);
2439 module_exit(velocity_cleanup_module);
2440
2441
2442 /*
2443  * MII access , media link mode setting functions
2444  */
2445
2446
2447 /**
2448  *      mii_init        -       set up MII
2449  *      @vptr: velocity adapter
2450  *      @mii_status:  links tatus
2451  *
2452  *      Set up the PHY for the current link state.
2453  */
2454
2455 static void mii_init(struct velocity_info *vptr, u32 mii_status)
2456 {
2457         u16 BMCR;
2458
2459         switch (PHYID_GET_PHY_ID(vptr->phy_id)) {
2460         case PHYID_CICADA_CS8201:
2461                 /*
2462                  *      Reset to hardware default
2463                  */
2464                 MII_REG_BITS_OFF((ANAR_ASMDIR | ANAR_PAUSE), MII_REG_ANAR, vptr->mac_regs);
2465                 /*
2466                  *      Turn on ECHODIS bit in NWay-forced full mode and turn it
2467                  *      off it in NWay-forced half mode for NWay-forced v.s.
2468                  *      legacy-forced issue.
2469                  */
2470                 if (vptr->mii_status & VELOCITY_DUPLEX_FULL)
2471                         MII_REG_BITS_ON(TCSR_ECHODIS, MII_REG_TCSR, vptr->mac_regs);
2472                 else
2473                         MII_REG_BITS_OFF(TCSR_ECHODIS, MII_REG_TCSR, vptr->mac_regs);
2474                 /*
2475                  *      Turn on Link/Activity LED enable bit for CIS8201
2476                  */
2477                 MII_REG_BITS_ON(PLED_LALBE, MII_REG_PLED, vptr->mac_regs);
2478                 break;
2479         case PHYID_VT3216_32BIT:
2480         case PHYID_VT3216_64BIT:
2481                 /*
2482                  *      Reset to hardware default
2483                  */
2484                 MII_REG_BITS_ON((ANAR_ASMDIR | ANAR_PAUSE), MII_REG_ANAR, vptr->mac_regs);
2485                 /*
2486                  *      Turn on ECHODIS bit in NWay-forced full mode and turn it
2487                  *      off it in NWay-forced half mode for NWay-forced v.s.
2488                  *      legacy-forced issue
2489                  */
2490                 if (vptr->mii_status & VELOCITY_DUPLEX_FULL)
2491                         MII_REG_BITS_ON(TCSR_ECHODIS, MII_REG_TCSR, vptr->mac_regs);
2492                 else
2493                         MII_REG_BITS_OFF(TCSR_ECHODIS, MII_REG_TCSR, vptr->mac_regs);
2494                 break;
2495
2496         case PHYID_MARVELL_1000:
2497         case PHYID_MARVELL_1000S:
2498                 /*
2499                  *      Assert CRS on Transmit
2500                  */
2501                 MII_REG_BITS_ON(PSCR_ACRSTX, MII_REG_PSCR, vptr->mac_regs);
2502                 /*
2503                  *      Reset to hardware default
2504                  */
2505                 MII_REG_BITS_ON((ANAR_ASMDIR | ANAR_PAUSE), MII_REG_ANAR, vptr->mac_regs);
2506                 break;
2507         default:
2508                 ;
2509         }
2510         velocity_mii_read(vptr->mac_regs, MII_REG_BMCR, &BMCR);
2511         if (BMCR & BMCR_ISO) {
2512                 BMCR &= ~BMCR_ISO;
2513                 velocity_mii_write(vptr->mac_regs, MII_REG_BMCR, BMCR);
2514         }
2515 }
2516
2517 /**
2518  *      safe_disable_mii_autopoll       -       autopoll off
2519  *      @regs: velocity registers
2520  *
2521  *      Turn off the autopoll and wait for it to disable on the chip
2522  */
2523
2524 static void safe_disable_mii_autopoll(struct mac_regs __iomem * regs)
2525 {
2526         u16 ww;
2527
2528         /*  turn off MAUTO */
2529         writeb(0, &regs->MIICR);
2530         for (ww = 0; ww < W_MAX_TIMEOUT; ww++) {
2531                 udelay(1);
2532                 if (BYTE_REG_BITS_IS_ON(MIISR_MIDLE, &regs->MIISR))
2533                         break;
2534         }
2535 }
2536
2537 /**
2538  *      enable_mii_autopoll     -       turn on autopolling
2539  *      @regs: velocity registers
2540  *
2541  *      Enable the MII link status autopoll feature on the Velocity
2542  *      hardware. Wait for it to enable.
2543  */
2544
2545 static void enable_mii_autopoll(struct mac_regs __iomem * regs)
2546 {
2547         int ii;
2548
2549         writeb(0, &(regs->MIICR));
2550         writeb(MIIADR_SWMPL, &regs->MIIADR);
2551
2552         for (ii = 0; ii < W_MAX_TIMEOUT; ii++) {
2553                 udelay(1);
2554                 if (BYTE_REG_BITS_IS_ON(MIISR_MIDLE, &regs->MIISR))
2555                         break;
2556         }
2557
2558         writeb(MIICR_MAUTO, &regs->MIICR);
2559
2560         for (ii = 0; ii < W_MAX_TIMEOUT; ii++) {
2561                 udelay(1);
2562                 if (!BYTE_REG_BITS_IS_ON(MIISR_MIDLE, &regs->MIISR))
2563                         break;
2564         }
2565
2566 }
2567
2568 /**
2569  *      velocity_mii_read       -       read MII data
2570  *      @regs: velocity registers
2571  *      @index: MII register index
2572  *      @data: buffer for received data
2573  *
2574  *      Perform a single read of an MII 16bit register. Returns zero
2575  *      on success or -ETIMEDOUT if the PHY did not respond.
2576  */
2577
2578 static int velocity_mii_read(struct mac_regs __iomem *regs, u8 index, u16 *data)
2579 {
2580         u16 ww;
2581
2582         /*
2583          *      Disable MIICR_MAUTO, so that mii addr can be set normally
2584          */
2585         safe_disable_mii_autopoll(regs);
2586
2587         writeb(index, &regs->MIIADR);
2588
2589         BYTE_REG_BITS_ON(MIICR_RCMD, &regs->MIICR);
2590
2591         for (ww = 0; ww < W_MAX_TIMEOUT; ww++) {
2592                 if (!(readb(&regs->MIICR) & MIICR_RCMD))
2593                         break;
2594         }
2595
2596         *data = readw(&regs->MIIDATA);
2597
2598         enable_mii_autopoll(regs);
2599         if (ww == W_MAX_TIMEOUT)
2600                 return -ETIMEDOUT;
2601         return 0;
2602 }
2603
2604 /**
2605  *      velocity_mii_write      -       write MII data
2606  *      @regs: velocity registers
2607  *      @index: MII register index
2608  *      @data: 16bit data for the MII register
2609  *
2610  *      Perform a single write to an MII 16bit register. Returns zero
2611  *      on success or -ETIMEDOUT if the PHY did not respond.
2612  */
2613
2614 static int velocity_mii_write(struct mac_regs __iomem *regs, u8 mii_addr, u16 data)
2615 {
2616         u16 ww;
2617
2618         /*
2619          *      Disable MIICR_MAUTO, so that mii addr can be set normally
2620          */
2621         safe_disable_mii_autopoll(regs);
2622
2623         /* MII reg offset */
2624         writeb(mii_addr, &regs->MIIADR);
2625         /* set MII data */
2626         writew(data, &regs->MIIDATA);
2627
2628         /* turn on MIICR_WCMD */
2629         BYTE_REG_BITS_ON(MIICR_WCMD, &regs->MIICR);
2630
2631         /* W_MAX_TIMEOUT is the timeout period */
2632         for (ww = 0; ww < W_MAX_TIMEOUT; ww++) {
2633                 udelay(5);
2634                 if (!(readb(&regs->MIICR) & MIICR_WCMD))
2635                         break;
2636         }
2637         enable_mii_autopoll(regs);
2638
2639         if (ww == W_MAX_TIMEOUT)
2640                 return -ETIMEDOUT;
2641         return 0;
2642 }
2643
2644 /**
2645  *      velocity_get_opt_media_mode     -       get media selection
2646  *      @vptr: velocity adapter
2647  *
2648  *      Get the media mode stored in EEPROM or module options and load
2649  *      mii_status accordingly. The requested link state information
2650  *      is also returned.
2651  */
2652
2653 static u32 velocity_get_opt_media_mode(struct velocity_info *vptr)
2654 {
2655         u32 status = 0;
2656
2657         switch (vptr->options.spd_dpx) {
2658         case SPD_DPX_AUTO:
2659                 status = VELOCITY_AUTONEG_ENABLE;
2660                 break;
2661         case SPD_DPX_100_FULL:
2662                 status = VELOCITY_SPEED_100 | VELOCITY_DUPLEX_FULL;
2663                 break;
2664         case SPD_DPX_10_FULL:
2665                 status = VELOCITY_SPEED_10 | VELOCITY_DUPLEX_FULL;
2666                 break;
2667         case SPD_DPX_100_HALF:
2668                 status = VELOCITY_SPEED_100;
2669                 break;
2670         case SPD_DPX_10_HALF:
2671                 status = VELOCITY_SPEED_10;
2672                 break;
2673         }
2674         vptr->mii_status = status;
2675         return status;
2676 }
2677
2678 /**
2679  *      mii_set_auto_on         -       autonegotiate on
2680  *      @vptr: velocity
2681  *
2682  *      Enable autonegotation on this interface
2683  */
2684
2685 static void mii_set_auto_on(struct velocity_info *vptr)
2686 {
2687         if (MII_REG_BITS_IS_ON(BMCR_AUTO, MII_REG_BMCR, vptr->mac_regs))
2688                 MII_REG_BITS_ON(BMCR_REAUTO, MII_REG_BMCR, vptr->mac_regs);
2689         else
2690                 MII_REG_BITS_ON(BMCR_AUTO, MII_REG_BMCR, vptr->mac_regs);
2691 }
2692
2693
2694 /*
2695 static void mii_set_auto_off(struct velocity_info * vptr)
2696 {
2697     MII_REG_BITS_OFF(BMCR_AUTO, MII_REG_BMCR, vptr->mac_regs);
2698 }
2699 */
2700
2701 /**
2702  *      set_mii_flow_control    -       flow control setup
2703  *      @vptr: velocity interface
2704  *
2705  *      Set up the flow control on this interface according to
2706  *      the supplied user/eeprom options.
2707  */
2708
2709 static void set_mii_flow_control(struct velocity_info *vptr)
2710 {
2711         /*Enable or Disable PAUSE in ANAR */
2712         switch (vptr->options.flow_cntl) {
2713         case FLOW_CNTL_TX:
2714                 MII_REG_BITS_OFF(ANAR_PAUSE, MII_REG_ANAR, vptr->mac_regs);
2715                 MII_REG_BITS_ON(ANAR_ASMDIR, MII_REG_ANAR, vptr->mac_regs);
2716                 break;
2717
2718         case FLOW_CNTL_RX:
2719                 MII_REG_BITS_ON(ANAR_PAUSE, MII_REG_ANAR, vptr->mac_regs);
2720                 MII_REG_BITS_ON(ANAR_ASMDIR, MII_REG_ANAR, vptr->mac_regs);
2721                 break;
2722
2723         case FLOW_CNTL_TX_RX:
2724                 MII_REG_BITS_ON(ANAR_PAUSE, MII_REG_ANAR, vptr->mac_regs);
2725                 MII_REG_BITS_ON(ANAR_ASMDIR, MII_REG_ANAR, vptr->mac_regs);
2726                 break;
2727
2728         case FLOW_CNTL_DISABLE:
2729                 MII_REG_BITS_OFF(ANAR_PAUSE, MII_REG_ANAR, vptr->mac_regs);
2730                 MII_REG_BITS_OFF(ANAR_ASMDIR, MII_REG_ANAR, vptr->mac_regs);
2731                 break;
2732         default:
2733                 break;
2734         }
2735 }
2736
2737 /**
2738  *      velocity_set_media_mode         -       set media mode
2739  *      @mii_status: old MII link state
2740  *
2741  *      Check the media link state and configure the flow control
2742  *      PHY and also velocity hardware setup accordingly. In particular
2743  *      we need to set up CD polling and frame bursting.
2744  */
2745
2746 static int velocity_set_media_mode(struct velocity_info *vptr, u32 mii_status)
2747 {
2748         u32 curr_status;
2749         struct mac_regs __iomem * regs = vptr->mac_regs;
2750
2751         vptr->mii_status = mii_check_media_mode(vptr->mac_regs);
2752         curr_status = vptr->mii_status & (~VELOCITY_LINK_FAIL);
2753
2754         /* Set mii link status */
2755         set_mii_flow_control(vptr);
2756
2757         /*
2758            Check if new status is consisent with current status
2759            if (((mii_status & curr_status) & VELOCITY_AUTONEG_ENABLE)
2760            || (mii_status==curr_status)) {
2761            vptr->mii_status=mii_check_media_mode(vptr->mac_regs);
2762            vptr->mii_status=check_connection_type(vptr->mac_regs);
2763            VELOCITY_PRT(MSG_LEVEL_INFO, "Velocity link no change\n");
2764            return 0;
2765            }
2766          */
2767
2768         if (PHYID_GET_PHY_ID(vptr->phy_id) == PHYID_CICADA_CS8201) {
2769                 MII_REG_BITS_ON(AUXCR_MDPPS, MII_REG_AUXCR, vptr->mac_regs);
2770         }
2771
2772         /*
2773          *      If connection type is AUTO
2774          */
2775         if (mii_status & VELOCITY_AUTONEG_ENABLE) {
2776                 VELOCITY_PRT(MSG_LEVEL_INFO, "Velocity is AUTO mode\n");
2777                 /* clear force MAC mode bit */
2778                 BYTE_REG_BITS_OFF(CHIPGCR_FCMODE, &regs->CHIPGCR);
2779                 /* set duplex mode of MAC according to duplex mode of MII */
2780                 MII_REG_BITS_ON(ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10, MII_REG_ANAR, vptr->mac_regs);
2781                 MII_REG_BITS_ON(G1000CR_1000FD | G1000CR_1000, MII_REG_G1000CR, vptr->mac_regs);
2782                 MII_REG_BITS_ON(BMCR_SPEED1G, MII_REG_BMCR, vptr->mac_regs);
2783
2784                 /* enable AUTO-NEGO mode */
2785                 mii_set_auto_on(vptr);
2786         } else {
2787                 u16 ANAR;
2788                 u8 CHIPGCR;
2789
2790                 /*
2791                  * 1. if it's 3119, disable frame bursting in halfduplex mode
2792                  *    and enable it in fullduplex mode
2793                  * 2. set correct MII/GMII and half/full duplex mode in CHIPGCR
2794                  * 3. only enable CD heart beat counter in 10HD mode
2795                  */
2796
2797                 /* set force MAC mode bit */
2798                 BYTE_REG_BITS_ON(CHIPGCR_FCMODE, &regs->CHIPGCR);
2799
2800                 CHIPGCR = readb(&regs->CHIPGCR);
2801                 CHIPGCR &= ~CHIPGCR_FCGMII;
2802
2803                 if (mii_status & VELOCITY_DUPLEX_FULL) {
2804                         CHIPGCR |= CHIPGCR_FCFDX;
2805                         writeb(CHIPGCR, &regs->CHIPGCR);
2806                         VELOCITY_PRT(MSG_LEVEL_INFO, "set Velocity to forced full mode\n");
2807                         if (vptr->rev_id < REV_ID_VT3216_A0)
2808                                 BYTE_REG_BITS_OFF(TCR_TB2BDIS, &regs->TCR);
2809                 } else {
2810                         CHIPGCR &= ~CHIPGCR_FCFDX;
2811                         VELOCITY_PRT(MSG_LEVEL_INFO, "set Velocity to forced half mode\n");
2812                         writeb(CHIPGCR, &regs->CHIPGCR);
2813                         if (vptr->rev_id < REV_ID_VT3216_A0)
2814                                 BYTE_REG_BITS_ON(TCR_TB2BDIS, &regs->TCR);
2815                 }
2816
2817                 MII_REG_BITS_OFF(G1000CR_1000FD | G1000CR_1000, MII_REG_G1000CR, vptr->mac_regs);
2818
2819                 if (!(mii_status & VELOCITY_DUPLEX_FULL) && (mii_status & VELOCITY_SPEED_10)) {
2820                         BYTE_REG_BITS_OFF(TESTCFG_HBDIS, &regs->TESTCFG);
2821                 } else {
2822                         BYTE_REG_BITS_ON(TESTCFG_HBDIS, &regs->TESTCFG);
2823                 }
2824                 /* MII_REG_BITS_OFF(BMCR_SPEED1G, MII_REG_BMCR, vptr->mac_regs); */
2825                 velocity_mii_read(vptr->mac_regs, MII_REG_ANAR, &ANAR);
2826                 ANAR &= (~(ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10));
2827                 if (mii_status & VELOCITY_SPEED_100) {
2828                         if (mii_status & VELOCITY_DUPLEX_FULL)
2829                                 ANAR |= ANAR_TXFD;
2830                         else
2831                                 ANAR |= ANAR_TX;
2832                 } else {
2833                         if (mii_status & VELOCITY_DUPLEX_FULL)
2834                                 ANAR |= ANAR_10FD;
2835                         else
2836                                 ANAR |= ANAR_10;
2837                 }
2838                 velocity_mii_write(vptr->mac_regs, MII_REG_ANAR, ANAR);
2839                 /* enable AUTO-NEGO mode */
2840                 mii_set_auto_on(vptr);
2841                 /* MII_REG_BITS_ON(BMCR_AUTO, MII_REG_BMCR, vptr->mac_regs); */
2842         }
2843         /* vptr->mii_status=mii_check_media_mode(vptr->mac_regs); */
2844         /* vptr->mii_status=check_connection_type(vptr->mac_regs); */
2845         return VELOCITY_LINK_CHANGE;
2846 }
2847
2848 /**
2849  *      mii_check_media_mode    -       check media state
2850  *      @regs: velocity registers
2851  *
2852  *      Check the current MII status and determine the link status
2853  *      accordingly
2854  */
2855
2856 static u32 mii_check_media_mode(struct mac_regs __iomem * regs)
2857 {
2858         u32 status = 0;
2859         u16 ANAR;
2860
2861         if (!MII_REG_BITS_IS_ON(BMSR_LNK, MII_REG_BMSR, regs))
2862                 status |= VELOCITY_LINK_FAIL;
2863
2864         if (MII_REG_BITS_IS_ON(G1000CR_1000FD, MII_REG_G1000CR, regs))
2865                 status |= VELOCITY_SPEED_1000 | VELOCITY_DUPLEX_FULL;
2866         else if (MII_REG_BITS_IS_ON(G1000CR_1000, MII_REG_G1000CR, regs))
2867                 status |= (VELOCITY_SPEED_1000);
2868         else {
2869                 velocity_mii_read(regs, MII_REG_ANAR, &ANAR);
2870                 if (ANAR & ANAR_TXFD)
2871                         status |= (VELOCITY_SPEED_100 | VELOCITY_DUPLEX_FULL);
2872                 else if (ANAR & ANAR_TX)
2873                         status |= VELOCITY_SPEED_100;
2874                 else if (ANAR & ANAR_10FD)
2875                         status |= (VELOCITY_SPEED_10 | VELOCITY_DUPLEX_FULL);
2876                 else
2877                         status |= (VELOCITY_SPEED_10);
2878         }
2879
2880         if (MII_REG_BITS_IS_ON(BMCR_AUTO, MII_REG_BMCR, regs)) {
2881                 velocity_mii_read(regs, MII_REG_ANAR, &ANAR);
2882                 if ((ANAR & (ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10))
2883                     == (ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10)) {
2884                         if (MII_REG_BITS_IS_ON(G1000CR_1000 | G1000CR_1000FD, MII_REG_G1000CR, regs))
2885                                 status |= VELOCITY_AUTONEG_ENABLE;
2886                 }
2887         }
2888
2889         return status;
2890 }
2891
2892 static u32 check_connection_type(struct mac_regs __iomem * regs)
2893 {
2894         u32 status = 0;
2895         u8 PHYSR0;
2896         u16 ANAR;
2897         PHYSR0 = readb(&regs->PHYSR0);
2898
2899         /*
2900            if (!(PHYSR0 & PHYSR0_LINKGD))
2901            status|=VELOCITY_LINK_FAIL;
2902          */
2903
2904         if (PHYSR0 & PHYSR0_FDPX)
2905                 status |= VELOCITY_DUPLEX_FULL;
2906
2907         if (PHYSR0 & PHYSR0_SPDG)
2908                 status |= VELOCITY_SPEED_1000;
2909         else if (PHYSR0 & PHYSR0_SPD10)
2910                 status |= VELOCITY_SPEED_10;
2911         else
2912                 status |= VELOCITY_SPEED_100;
2913
2914         if (MII_REG_BITS_IS_ON(BMCR_AUTO, MII_REG_BMCR, regs)) {
2915                 velocity_mii_read(regs, MII_REG_ANAR, &ANAR);
2916                 if ((ANAR & (ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10))
2917                     == (ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10)) {
2918                         if (MII_REG_BITS_IS_ON(G1000CR_1000 | G1000CR_1000FD, MII_REG_G1000CR, regs))
2919                                 status |= VELOCITY_AUTONEG_ENABLE;
2920                 }
2921         }
2922
2923         return status;
2924 }
2925
2926 /**
2927  *      enable_flow_control_ability     -       flow control
2928  *      @vptr: veloity to configure
2929  *
2930  *      Set up flow control according to the flow control options
2931  *      determined by the eeprom/configuration.
2932  */
2933
2934 static void enable_flow_control_ability(struct velocity_info *vptr)
2935 {
2936
2937         struct mac_regs __iomem * regs = vptr->mac_regs;
2938
2939         switch (vptr->options.flow_cntl) {
2940
2941         case FLOW_CNTL_DEFAULT:
2942                 if (BYTE_REG_BITS_IS_ON(PHYSR0_RXFLC, &regs->PHYSR0))
2943                         writel(CR0_FDXRFCEN, &regs->CR0Set);
2944                 else
2945                         writel(CR0_FDXRFCEN, &regs->CR0Clr);
2946
2947                 if (BYTE_REG_BITS_IS_ON(PHYSR0_TXFLC, &regs->PHYSR0))
2948                         writel(CR0_FDXTFCEN, &regs->CR0Set);
2949                 else
2950                         writel(CR0_FDXTFCEN, &regs->CR0Clr);
2951                 break;
2952
2953         case FLOW_CNTL_TX:
2954                 writel(CR0_FDXTFCEN, &regs->CR0Set);
2955                 writel(CR0_FDXRFCEN, &regs->CR0Clr);
2956                 break;
2957
2958         case FLOW_CNTL_RX:
2959                 writel(CR0_FDXRFCEN, &regs->CR0Set);
2960                 writel(CR0_FDXTFCEN, &regs->CR0Clr);
2961                 break;
2962
2963         case FLOW_CNTL_TX_RX:
2964                 writel(CR0_FDXTFCEN, &regs->CR0Set);
2965                 writel(CR0_FDXRFCEN, &regs->CR0Set);
2966                 break;
2967
2968         case FLOW_CNTL_DISABLE:
2969                 writel(CR0_FDXRFCEN, &regs->CR0Clr);
2970                 writel(CR0_FDXTFCEN, &regs->CR0Clr);
2971                 break;
2972
2973         default:
2974                 break;
2975         }
2976
2977 }
2978
2979
2980 /**
2981  *      velocity_ethtool_up     -       pre hook for ethtool
2982  *      @dev: network device
2983  *
2984  *      Called before an ethtool operation. We need to make sure the
2985  *      chip is out of D3 state before we poke at it.
2986  */
2987
2988 static int velocity_ethtool_up(struct net_device *dev)
2989 {
2990         struct velocity_info *vptr = netdev_priv(dev);
2991         if (!netif_running(dev))
2992                 pci_set_power_state(vptr->pdev, PCI_D0);
2993         return 0;
2994 }
2995
2996 /**
2997  *      velocity_ethtool_down   -       post hook for ethtool
2998  *      @dev: network device
2999  *
3000  *      Called after an ethtool operation. Restore the chip back to D3
3001  *      state if it isn't running.
3002  */
3003
3004 static void velocity_ethtool_down(struct net_device *dev)
3005 {
3006         struct velocity_info *vptr = netdev_priv(dev);
3007         if (!netif_running(dev))
3008                 pci_set_power_state(vptr->pdev, PCI_D3hot);
3009 }
3010
3011 static int velocity_get_settings(struct net_device *dev, struct ethtool_cmd *cmd)
3012 {
3013         struct velocity_info *vptr = netdev_priv(dev);
3014         struct mac_regs __iomem * regs = vptr->mac_regs;
3015         u32 status;
3016         status = check_connection_type(vptr->mac_regs);
3017
3018         cmd->supported = SUPPORTED_TP |
3019                         SUPPORTED_Autoneg |
3020                         SUPPORTED_10baseT_Half |
3021                         SUPPORTED_10baseT_Full |
3022                         SUPPORTED_100baseT_Half |
3023                         SUPPORTED_100baseT_Full |
3024                         SUPPORTED_1000baseT_Half |
3025                         SUPPORTED_1000baseT_Full;
3026         if (status & VELOCITY_SPEED_1000)
3027                 cmd->speed = SPEED_1000;
3028         else if (status & VELOCITY_SPEED_100)
3029                 cmd->speed = SPEED_100;
3030         else
3031                 cmd->speed = SPEED_10;
3032         cmd->autoneg = (status & VELOCITY_AUTONEG_ENABLE) ? AUTONEG_ENABLE : AUTONEG_DISABLE;
3033         cmd->port = PORT_TP;
3034         cmd->transceiver = XCVR_INTERNAL;
3035         cmd->phy_address = readb(&regs->MIIADR) & 0x1F;
3036
3037         if (status & VELOCITY_DUPLEX_FULL)
3038                 cmd->duplex = DUPLEX_FULL;
3039         else
3040                 cmd->duplex = DUPLEX_HALF;
3041
3042         return 0;
3043 }
3044
3045 static int velocity_set_settings(struct net_device *dev, struct ethtool_cmd *cmd)
3046 {
3047         struct velocity_info *vptr = netdev_priv(dev);
3048         u32 curr_status;
3049         u32 new_status = 0;
3050         int ret = 0;
3051
3052         curr_status = check_connection_type(vptr->mac_regs);
3053         curr_status &= (~VELOCITY_LINK_FAIL);
3054
3055         new_status |= ((cmd->autoneg) ? VELOCITY_AUTONEG_ENABLE : 0);
3056         new_status |= ((cmd->speed == SPEED_100) ? VELOCITY_SPEED_100 : 0);
3057         new_status |= ((cmd->speed == SPEED_10) ? VELOCITY_SPEED_10 : 0);
3058         new_status |= ((cmd->duplex == DUPLEX_FULL) ? VELOCITY_DUPLEX_FULL : 0);
3059
3060         if ((new_status & VELOCITY_AUTONEG_ENABLE) && (new_status != (curr_status | VELOCITY_AUTONEG_ENABLE)))
3061                 ret = -EINVAL;
3062         else
3063                 velocity_set_media_mode(vptr, new_status);
3064
3065         return ret;
3066 }
3067
3068 static u32 velocity_get_link(struct net_device *dev)
3069 {
3070         struct velocity_info *vptr = netdev_priv(dev);
3071         struct mac_regs __iomem * regs = vptr->mac_regs;
3072         return BYTE_REG_BITS_IS_ON(PHYSR0_LINKGD, &regs->PHYSR0) ? 1 : 0;
3073 }
3074
3075 static void velocity_get_drvinfo(struct net_device *dev, struct ethtool_drvinfo *info)
3076 {
3077         struct velocity_info *vptr = netdev_priv(dev);
3078         strcpy(info->driver, VELOCITY_NAME);
3079         strcpy(info->version, VELOCITY_VERSION);
3080         strcpy(info->bus_info, pci_name(vptr->pdev));
3081 }
3082
3083 static void velocity_ethtool_get_wol(struct net_device *dev, struct ethtool_wolinfo *wol)
3084 {
3085         struct velocity_info *vptr = netdev_priv(dev);
3086         wol->supported = WAKE_PHY | WAKE_MAGIC | WAKE_UCAST | WAKE_ARP;
3087         wol->wolopts |= WAKE_MAGIC;
3088         /*
3089            if (vptr->wol_opts & VELOCITY_WOL_PHY)
3090                    wol.wolopts|=WAKE_PHY;
3091                          */
3092         if (vptr->wol_opts & VELOCITY_WOL_UCAST)
3093                 wol->wolopts |= WAKE_UCAST;
3094         if (vptr->wol_opts & VELOCITY_WOL_ARP)
3095                 wol->wolopts |= WAKE_ARP;
3096         memcpy(&wol->sopass, vptr->wol_passwd, 6);
3097 }
3098
3099 static int velocity_ethtool_set_wol(struct net_device *dev, struct ethtool_wolinfo *wol)
3100 {
3101         struct velocity_info *vptr = netdev_priv(dev);
3102
3103         if (!(wol->wolopts & (WAKE_PHY | WAKE_MAGIC | WAKE_UCAST | WAKE_ARP)))
3104                 return -EFAULT;
3105         vptr->wol_opts = VELOCITY_WOL_MAGIC;
3106
3107         /*
3108            if (wol.wolopts & WAKE_PHY) {
3109            vptr->wol_opts|=VELOCITY_WOL_PHY;
3110            vptr->flags |=VELOCITY_FLAGS_WOL_ENABLED;
3111            }
3112          */
3113
3114         if (wol->wolopts & WAKE_MAGIC) {
3115                 vptr->wol_opts |= VELOCITY_WOL_MAGIC;
3116                 vptr->flags |= VELOCITY_FLAGS_WOL_ENABLED;
3117         }
3118         if (wol->wolopts & WAKE_UCAST) {
3119                 vptr->wol_opts |= VELOCITY_WOL_UCAST;
3120                 vptr->flags |= VELOCITY_FLAGS_WOL_ENABLED;
3121         }
3122         if (wol->wolopts & WAKE_ARP) {
3123                 vptr->wol_opts |= VELOCITY_WOL_ARP;
3124                 vptr->flags |= VELOCITY_FLAGS_WOL_ENABLED;
3125         }
3126         memcpy(vptr->wol_passwd, wol->sopass, 6);
3127         return 0;
3128 }
3129
3130 static u32 velocity_get_msglevel(struct net_device *dev)
3131 {
3132         return msglevel;
3133 }
3134
3135 static void velocity_set_msglevel(struct net_device *dev, u32 value)
3136 {
3137          msglevel = value;
3138 }
3139
3140 static const struct ethtool_ops velocity_ethtool_ops = {
3141         .get_settings   =       velocity_get_settings,
3142         .set_settings   =       velocity_set_settings,
3143         .get_drvinfo    =       velocity_get_drvinfo,
3144         .get_wol        =       velocity_ethtool_get_wol,
3145         .set_wol        =       velocity_ethtool_set_wol,
3146         .get_msglevel   =       velocity_get_msglevel,
3147         .set_msglevel   =       velocity_set_msglevel,
3148         .get_link       =       velocity_get_link,
3149         .begin          =       velocity_ethtool_up,
3150         .complete       =       velocity_ethtool_down
3151 };
3152
3153 /**
3154  *      velocity_mii_ioctl              -       MII ioctl handler
3155  *      @dev: network device
3156  *      @ifr: the ifreq block for the ioctl
3157  *      @cmd: the command
3158  *
3159  *      Process MII requests made via ioctl from the network layer. These
3160  *      are used by tools like kudzu to interrogate the link state of the
3161  *      hardware
3162  */
3163
3164 static int velocity_mii_ioctl(struct net_device *dev, struct ifreq *ifr, int cmd)
3165 {
3166         struct velocity_info *vptr = netdev_priv(dev);
3167         struct mac_regs __iomem * regs = vptr->mac_regs;
3168         unsigned long flags;
3169         struct mii_ioctl_data *miidata = if_mii(ifr);
3170         int err;
3171
3172         switch (cmd) {
3173         case SIOCGMIIPHY:
3174                 miidata->phy_id = readb(&regs->MIIADR) & 0x1f;
3175                 break;
3176         case SIOCGMIIREG:
3177                 if (!capable(CAP_NET_ADMIN))
3178                         return -EPERM;
3179                 if(velocity_mii_read(vptr->mac_regs, miidata->reg_num & 0x1f, &(miidata->val_out)) < 0)
3180                         return -ETIMEDOUT;
3181                 break;
3182         case SIOCSMIIREG:
3183                 if (!capable(CAP_NET_ADMIN))
3184                         return -EPERM;
3185                 spin_lock_irqsave(&vptr->lock, flags);
3186                 err = velocity_mii_write(vptr->mac_regs, miidata->reg_num & 0x1f, miidata->val_in);
3187                 spin_unlock_irqrestore(&vptr->lock, flags);
3188                 check_connection_type(vptr->mac_regs);
3189                 if(err)
3190                         return err;
3191                 break;
3192         default:
3193                 return -EOPNOTSUPP;
3194         }
3195         return 0;
3196 }
3197
3198 #ifdef CONFIG_PM
3199
3200 /**
3201  *      velocity_save_context   -       save registers
3202  *      @vptr: velocity
3203  *      @context: buffer for stored context
3204  *
3205  *      Retrieve the current configuration from the velocity hardware
3206  *      and stash it in the context structure, for use by the context
3207  *      restore functions. This allows us to save things we need across
3208  *      power down states
3209  */
3210
3211 static void velocity_save_context(struct velocity_info *vptr, struct velocity_context * context)
3212 {
3213         struct mac_regs __iomem * regs = vptr->mac_regs;
3214         u16 i;
3215         u8 __iomem *ptr = (u8 __iomem *)regs;
3216
3217         for (i = MAC_REG_PAR; i < MAC_REG_CR0_CLR; i += 4)
3218                 *((u32 *) (context->mac_reg + i)) = readl(ptr + i);
3219
3220         for (i = MAC_REG_MAR; i < MAC_REG_TDCSR_CLR; i += 4)
3221                 *((u32 *) (context->mac_reg + i)) = readl(ptr + i);
3222
3223         for (i = MAC_REG_RDBASE_LO; i < MAC_REG_FIFO_TEST0; i += 4)
3224                 *((u32 *) (context->mac_reg + i)) = readl(ptr + i);
3225
3226 }
3227
3228 /**
3229  *      velocity_restore_context        -       restore registers
3230  *      @vptr: velocity
3231  *      @context: buffer for stored context
3232  *
3233  *      Reload the register configuration from the velocity context
3234  *      created by velocity_save_context.
3235  */
3236
3237 static void velocity_restore_context(struct velocity_info *vptr, struct velocity_context *context)
3238 {
3239         struct mac_regs __iomem * regs = vptr->mac_regs;
3240         int i;
3241         u8 __iomem *ptr = (u8 __iomem *)regs;
3242
3243         for (i = MAC_REG_PAR; i < MAC_REG_CR0_SET; i += 4) {
3244                 writel(*((u32 *) (context->mac_reg + i)), ptr + i);
3245         }
3246
3247         /* Just skip cr0 */
3248         for (i = MAC_REG_CR1_SET; i < MAC_REG_CR0_CLR; i++) {
3249                 /* Clear */
3250                 writeb(~(*((u8 *) (context->mac_reg + i))), ptr + i + 4);
3251                 /* Set */
3252                 writeb(*((u8 *) (context->mac_reg + i)), ptr + i);
3253         }
3254
3255         for (i = MAC_REG_MAR; i < MAC_REG_IMR; i += 4) {
3256                 writel(*((u32 *) (context->mac_reg + i)), ptr + i);
3257         }
3258
3259         for (i = MAC_REG_RDBASE_LO; i < MAC_REG_FIFO_TEST0; i += 4) {
3260                 writel(*((u32 *) (context->mac_reg + i)), ptr + i);
3261         }
3262
3263         for (i = MAC_REG_TDCSR_SET; i <= MAC_REG_RDCSR_SET; i++) {
3264                 writeb(*((u8 *) (context->mac_reg + i)), ptr + i);
3265         }
3266
3267 }
3268
3269 /**
3270  *      wol_calc_crc            -       WOL CRC
3271  *      @pattern: data pattern
3272  *      @mask_pattern: mask
3273  *
3274  *      Compute the wake on lan crc hashes for the packet header
3275  *      we are interested in.
3276  */
3277
3278 static u16 wol_calc_crc(int size, u8 * pattern, u8 *mask_pattern)
3279 {
3280         u16 crc = 0xFFFF;
3281         u8 mask;
3282         int i, j;
3283
3284         for (i = 0; i < size; i++) {
3285                 mask = mask_pattern[i];
3286
3287                 /* Skip this loop if the mask equals to zero */
3288                 if (mask == 0x00)
3289                         continue;
3290
3291                 for (j = 0; j < 8; j++) {
3292                         if ((mask & 0x01) == 0) {
3293                                 mask >>= 1;
3294                                 continue;
3295                         }
3296                         mask >>= 1;
3297                         crc = crc_ccitt(crc, &(pattern[i * 8 + j]), 1);
3298                 }
3299         }
3300         /*      Finally, invert the result once to get the correct data */
3301         crc = ~crc;
3302         return bitrev32(crc) >> 16;
3303 }
3304
3305 /**
3306  *      velocity_set_wol        -       set up for wake on lan
3307  *      @vptr: velocity to set WOL status on
3308  *
3309  *      Set a card up for wake on lan either by unicast or by
3310  *      ARP packet.
3311  *
3312  *      FIXME: check static buffer is safe here
3313  */
3314
3315 static int velocity_set_wol(struct velocity_info *vptr)
3316 {
3317         struct mac_regs __iomem * regs = vptr->mac_regs;
3318         static u8 buf[256];
3319         int i;
3320
3321         static u32 mask_pattern[2][4] = {
3322                 {0x00203000, 0x000003C0, 0x00000000, 0x0000000}, /* ARP */
3323                 {0xfffff000, 0xffffffff, 0xffffffff, 0x000ffff}  /* Magic Packet */
3324         };
3325
3326         writew(0xFFFF, &regs->WOLCRClr);
3327         writeb(WOLCFG_SAB | WOLCFG_SAM, &regs->WOLCFGSet);
3328         writew(WOLCR_MAGIC_EN, &regs->WOLCRSet);
3329
3330         /*
3331            if (vptr->wol_opts & VELOCITY_WOL_PHY)
3332            writew((WOLCR_LINKON_EN|WOLCR_LINKOFF_EN), &regs->WOLCRSet);
3333          */
3334
3335         if (vptr->wol_opts & VELOCITY_WOL_UCAST) {
3336                 writew(WOLCR_UNICAST_EN, &regs->WOLCRSet);
3337         }
3338
3339         if (vptr->wol_opts & VELOCITY_WOL_ARP) {
3340                 struct arp_packet *arp = (struct arp_packet *) buf;
3341                 u16 crc;
3342                 memset(buf, 0, sizeof(struct arp_packet) + 7);
3343
3344                 for (i = 0; i < 4; i++)
3345                         writel(mask_pattern[0][i], &regs->ByteMask[0][i]);
3346
3347                 arp->type = htons(ETH_P_ARP);
3348                 arp->ar_op = htons(1);
3349
3350                 memcpy(arp->ar_tip, vptr->ip_addr, 4);
3351
3352                 crc = wol_calc_crc((sizeof(struct arp_packet) + 7) / 8, buf,
3353                                 (u8 *) & mask_pattern[0][0]);
3354
3355                 writew(crc, &regs->PatternCRC[0]);
3356                 writew(WOLCR_ARP_EN, &regs->WOLCRSet);
3357         }
3358
3359         BYTE_REG_BITS_ON(PWCFG_WOLTYPE, &regs->PWCFGSet);
3360         BYTE_REG_BITS_ON(PWCFG_LEGACY_WOLEN, &regs->PWCFGSet);
3361
3362         writew(0x0FFF, &regs->WOLSRClr);
3363
3364         if (vptr->mii_status & VELOCITY_AUTONEG_ENABLE) {
3365                 if (PHYID_GET_PHY_ID(vptr->phy_id) == PHYID_CICADA_CS8201)
3366                         MII_REG_BITS_ON(AUXCR_MDPPS, MII_REG_AUXCR, vptr->mac_regs);
3367
3368                 MII_REG_BITS_OFF(G1000CR_1000FD | G1000CR_1000, MII_REG_G1000CR, vptr->mac_regs);
3369         }
3370
3371         if (vptr->mii_status & VELOCITY_SPEED_1000)
3372                 MII_REG_BITS_ON(BMCR_REAUTO, MII_REG_BMCR, vptr->mac_regs);
3373
3374         BYTE_REG_BITS_ON(CHIPGCR_FCMODE, &regs->CHIPGCR);
3375
3376         {
3377                 u8 GCR;
3378                 GCR = readb(&regs->CHIPGCR);
3379                 GCR = (GCR & ~CHIPGCR_FCGMII) | CHIPGCR_FCFDX;
3380                 writeb(GCR, &regs->CHIPGCR);
3381         }
3382
3383         BYTE_REG_BITS_OFF(ISR_PWEI, &regs->ISR);
3384         /* Turn on SWPTAG just before entering power mode */
3385         BYTE_REG_BITS_ON(STICKHW_SWPTAG, &regs->STICKHW);
3386         /* Go to bed ..... */
3387         BYTE_REG_BITS_ON((STICKHW_DS1 | STICKHW_DS0), &regs->STICKHW);
3388
3389         return 0;
3390 }
3391
3392 static int velocity_suspend(struct pci_dev *pdev, pm_message_t state)
3393 {
3394         struct net_device *dev = pci_get_drvdata(pdev);
3395         struct velocity_info *vptr = netdev_priv(dev);
3396         unsigned long flags;
3397
3398         if(!netif_running(vptr->dev))
3399                 return 0;
3400
3401         netif_device_detach(vptr->dev);
3402
3403         spin_lock_irqsave(&vptr->lock, flags);
3404         pci_save_state(pdev);
3405 #ifdef ETHTOOL_GWOL
3406         if (vptr->flags & VELOCITY_FLAGS_WOL_ENABLED) {
3407                 velocity_get_ip(vptr);
3408                 velocity_save_context(vptr, &vptr->context);
3409                 velocity_shutdown(vptr);
3410                 velocity_set_wol(vptr);
3411                 pci_enable_wake(pdev, PCI_D3hot, 1);
3412                 pci_set_power_state(pdev, PCI_D3hot);
3413         } else {
3414                 velocity_save_context(vptr, &vptr->context);
3415                 velocity_shutdown(vptr);
3416                 pci_disable_device(pdev);
3417                 pci_set_power_state(pdev, pci_choose_state(pdev, state));
3418         }
3419 #else
3420         pci_set_power_state(pdev, pci_choose_state(pdev, state));
3421 #endif
3422         spin_unlock_irqrestore(&vptr->lock, flags);
3423         return 0;
3424 }
3425
3426 static int velocity_resume(struct pci_dev *pdev)
3427 {
3428         struct net_device *dev = pci_get_drvdata(pdev);
3429         struct velocity_info *vptr = netdev_priv(dev);
3430         unsigned long flags;
3431         int i;
3432
3433         if(!netif_running(vptr->dev))
3434                 return 0;
3435
3436         pci_set_power_state(pdev, PCI_D0);
3437         pci_enable_wake(pdev, 0, 0);
3438         pci_restore_state(pdev);
3439
3440         mac_wol_reset(vptr->mac_regs);
3441
3442         spin_lock_irqsave(&vptr->lock, flags);
3443         velocity_restore_context(vptr, &vptr->context);
3444         velocity_init_registers(vptr, VELOCITY_INIT_WOL);
3445         mac_disable_int(vptr->mac_regs);
3446
3447         velocity_tx_srv(vptr, 0);
3448
3449         for (i = 0; i < vptr->tx.numq; i++) {
3450                 if (vptr->tx.used[i]) {
3451                         mac_tx_queue_wake(vptr->mac_regs, i);
3452                 }
3453         }
3454
3455         mac_enable_int(vptr->mac_regs);
3456         spin_unlock_irqrestore(&vptr->lock, flags);
3457         netif_device_attach(vptr->dev);
3458
3459         return 0;
3460 }
3461
3462 #ifdef CONFIG_INET
3463
3464 static int velocity_netdev_event(struct notifier_block *nb, unsigned long notification, void *ptr)
3465 {
3466         struct in_ifaddr *ifa = (struct in_ifaddr *) ptr;
3467         struct net_device *dev = ifa->ifa_dev->dev;
3468         struct velocity_info *vptr;
3469         unsigned long flags;
3470
3471         if (dev_net(dev) != &init_net)
3472                 return NOTIFY_DONE;
3473
3474         spin_lock_irqsave(&velocity_dev_list_lock, flags);
3475         list_for_each_entry(vptr, &velocity_dev_list, list) {
3476                 if (vptr->dev == dev) {
3477                         velocity_get_ip(vptr);
3478                         break;
3479                 }
3480         }
3481         spin_unlock_irqrestore(&velocity_dev_list_lock, flags);
3482
3483         return NOTIFY_DONE;
3484 }
3485
3486 #endif
3487 #endif