drivers/net/via-velocity.c

   1 /*
   2  * This code is derived from the VIA reference driver (copyright message
   3  * below) provided to Red Hat by VIA Networking Technologies, Inc. for
   4  * addition to the Linux kernel.
   5  *
   6  * The code has been merged into one source file, cleaned up to follow
   7  * Linux coding style,  ported to the Linux 2.6 kernel tree and cleaned
   8  * for 64bit hardware platforms.
   9  *
  10  * TODO
  11  *      Big-endian support
  12  *      rx_copybreak/alignment
  13  *      Scatter gather
  14  *      More testing
  15  *
  16  * The changes are (c) Copyright 2004, Red Hat Inc. <alan@redhat.com>
  17  * Additional fixes and clean up: Francois Romieu
  18  *
  19  * This source has not been verified for use in safety critical systems.
  20  *
  21  * Please direct queries about the revamped driver to the linux-kernel
  22  * list not VIA.
  23  *
  24  * Original code:
  25  *
  26  * Copyright (c) 1996, 2003 VIA Networking Technologies, Inc.
  27  * All rights reserved.
  28  *
  29  * This software may be redistributed and/or modified under
  30  * the terms of the GNU General Public License as published by the Free
  31  * Software Foundation; either version 2 of the License, or
  32  * any later version.
  33  *
  34  * This program is distributed in the hope that it will be useful, but
  35  * WITHOUT ANY WARRANTY; without even the implied warranty of MERCHANTABILITY
  36  * or FITNESS FOR A PARTICULAR PURPOSE. See the GNU General Public License
  37  * for more details.
  38  *
  39  * Author: Chuang Liang-Shing, AJ Jiang
  40  *
  41  * Date: Jan 24, 2003
  42  *
  43  * MODULE_LICENSE("GPL");
  44  *
  45  */
  46
  47
  48 #include <linux/module.h>
  49 #include <linux/types.h>
  50 #include <linux/init.h>
  51 #include <linux/mm.h>
  52 #include <linux/errno.h>
  53 #include <linux/ioport.h>
  54 #include <linux/pci.h>
  55 #include <linux/kernel.h>
  56 #include <linux/netdevice.h>
  57 #include <linux/etherdevice.h>
  58 #include <linux/skbuff.h>
  59 #include <linux/delay.h>
  60 #include <linux/timer.h>
  61 #include <linux/slab.h>
  62 #include <linux/interrupt.h>
  63 #include <linux/string.h>
  64 #include <linux/wait.h>
  65 #include <asm/io.h>
  66 #include <linux/if.h>
  67 #include <asm/uaccess.h>
  68 #include <linux/proc_fs.h>
  69 #include <linux/inetdevice.h>
  70 #include <linux/reboot.h>
  71 #include <linux/ethtool.h>
  72 #include <linux/mii.h>
  73 #include <linux/in.h>
  74 #include <linux/if_arp.h>
  75 #include <linux/ip.h>
  76 #include <linux/tcp.h>
  77 #include <linux/udp.h>
  78 #include <linux/crc-ccitt.h>
  79 #include <linux/crc32.h>
  80
  81 #include "via-velocity.h"
  82
  83
  84 static int velocity_nics = 0;
  85 static int msglevel = MSG_LEVEL_INFO;
  86
  87
  88 static int velocity_mii_ioctl(struct net_device *dev, struct ifreq *ifr, int cmd);
  89 static const struct ethtool_ops velocity_ethtool_ops;
  90
  91 /*
  92     Define module options
  93 */
  94
  95 MODULE_AUTHOR("VIA Networking Technologies, Inc.");
  96 MODULE_LICENSE("GPL");
  97 MODULE_DESCRIPTION("VIA Networking Velocity Family Gigabit Ethernet Adapter Driver");
  98
  99 #define VELOCITY_PARAM(N,D) \
 100         static int N[MAX_UNITS]=OPTION_DEFAULT;\
 101         module_param_array(N, int, NULL, 0); \
 102         MODULE_PARM_DESC(N, D);
 103
 104 #define RX_DESC_MIN     64
 105 #define RX_DESC_MAX     255
 106 #define RX_DESC_DEF     64
 107 VELOCITY_PARAM(RxDescriptors, "Number of receive descriptors");
 108
 109 #define TX_DESC_MIN     16
 110 #define TX_DESC_MAX     256
 111 #define TX_DESC_DEF     64
 112 VELOCITY_PARAM(TxDescriptors, "Number of transmit descriptors");
 113
 114 #define VLAN_ID_MIN     0
 115 #define VLAN_ID_MAX     4095
 116 #define VLAN_ID_DEF     0
 117 /* VID_setting[] is used for setting the VID of NIC.
 118    0: default VID.
 119    1-4094: other VIDs.
 120 */
 121 VELOCITY_PARAM(VID_setting, "802.1Q VLAN ID");
 122
 123 #define RX_THRESH_MIN   0
 124 #define RX_THRESH_MAX   3
 125 #define RX_THRESH_DEF   0
 126 /* rx_thresh[] is used for controlling the receive fifo threshold.
 127    0: indicate the rxfifo threshold is 128 bytes.
 128    1: indicate the rxfifo threshold is 512 bytes.
 129    2: indicate the rxfifo threshold is 1024 bytes.
 130    3: indicate the rxfifo threshold is store & forward.
 131 */
 132 VELOCITY_PARAM(rx_thresh, "Receive fifo threshold");
 133
 134 #define DMA_LENGTH_MIN  0
 135 #define DMA_LENGTH_MAX  7
 136 #define DMA_LENGTH_DEF  0
 137
 138 /* DMA_length[] is used for controlling the DMA length
 139    0: 8 DWORDs
 140    1: 16 DWORDs
 141    2: 32 DWORDs
 142    3: 64 DWORDs
 143    4: 128 DWORDs
 144    5: 256 DWORDs
 145    6: SF(flush till emply)
 146    7: SF(flush till emply)
 147 */
 148 VELOCITY_PARAM(DMA_length, "DMA length");
 149
 150 #define TAGGING_DEF     0
 151 /* enable_tagging[] is used for enabling 802.1Q VID tagging.
 152    0: disable VID seeting(default).
 153    1: enable VID setting.
 154 */
 155 VELOCITY_PARAM(enable_tagging, "Enable 802.1Q tagging");
 156
 157 #define IP_ALIG_DEF     0
 158 /* IP_byte_align[] is used for IP header DWORD byte aligned
 159    0: indicate the IP header won't be DWORD byte aligned.(Default) .
 160    1: indicate the IP header will be DWORD byte aligned.
 161       In some enviroment, the IP header should be DWORD byte aligned,
 162       or the packet will be droped when we receive it. (eg: IPVS)
 163 */
 164 VELOCITY_PARAM(IP_byte_align, "Enable IP header dword aligned");
 165
 166 #define TX_CSUM_DEF     1
 167 /* txcsum_offload[] is used for setting the checksum offload ability of NIC.
 168    (We only support RX checksum offload now)
 169    0: disable csum_offload[checksum offload
 170    1: enable checksum offload. (Default)
 171 */
 172 VELOCITY_PARAM(txcsum_offload, "Enable transmit packet checksum offload");
 173
 174 #define FLOW_CNTL_DEF   1
 175 #define FLOW_CNTL_MIN   1
 176 #define FLOW_CNTL_MAX   5
 177
 178 /* flow_control[] is used for setting the flow control ability of NIC.
 179    1: hardware deafult - AUTO (default). Use Hardware default value in ANAR.
 180    2: enable TX flow control.
 181    3: enable RX flow control.
 182    4: enable RX/TX flow control.
 183    5: disable
 184 */
 185 VELOCITY_PARAM(flow_control, "Enable flow control ability");
 186
 187 #define MED_LNK_DEF 0
 188 #define MED_LNK_MIN 0
 189 #define MED_LNK_MAX 4
 190 /* speed_duplex[] is used for setting the speed and duplex mode of NIC.
 191    0: indicate autonegotiation for both speed and duplex mode
 192    1: indicate 100Mbps half duplex mode
 193    2: indicate 100Mbps full duplex mode
 194    3: indicate 10Mbps half duplex mode
 195    4: indicate 10Mbps full duplex mode
 196
 197    Note:
 198         if EEPROM have been set to the force mode, this option is ignored
 199             by driver.
 200 */
 201 VELOCITY_PARAM(speed_duplex, "Setting the speed and duplex mode");
 202
 203 #define VAL_PKT_LEN_DEF     0
 204 /* ValPktLen[] is used for setting the checksum offload ability of NIC.
 205    0: Receive frame with invalid layer 2 length (Default)
 206    1: Drop frame with invalid layer 2 length
 207 */
 208 VELOCITY_PARAM(ValPktLen, "Receiving or Drop invalid 802.3 frame");
 209
 210 #define WOL_OPT_DEF     0
 211 #define WOL_OPT_MIN     0
 212 #define WOL_OPT_MAX     7
 213 /* wol_opts[] is used for controlling wake on lan behavior.
 214    0: Wake up if recevied a magic packet. (Default)
 215    1: Wake up if link status is on/off.
 216    2: Wake up if recevied an arp packet.
 217    4: Wake up if recevied any unicast packet.
 218    Those value can be sumed up to support more than one option.
 219 */
 220 VELOCITY_PARAM(wol_opts, "Wake On Lan options");
 221
 222 #define INT_WORKS_DEF   20
 223 #define INT_WORKS_MIN   10
 224 #define INT_WORKS_MAX   64
 225
 226 VELOCITY_PARAM(int_works, "Number of packets per interrupt services");
 227
 228 static int rx_copybreak = 200;
 229 module_param(rx_copybreak, int, 0644);
 230 MODULE_PARM_DESC(rx_copybreak, "Copy breakpoint for copy-only-tiny-frames");
 231
 232 static void velocity_init_info(struct pci_dev *pdev, struct velocity_info *vptr,
 233                                const struct velocity_info_tbl *info);
 234 static int velocity_get_pci_info(struct velocity_info *, struct pci_dev *pdev);
 235 static void velocity_print_info(struct velocity_info *vptr);
 236 static int velocity_open(struct net_device *dev);
 237 static int velocity_change_mtu(struct net_device *dev, int mtu);
 238 static int velocity_xmit(struct sk_buff *skb, struct net_device *dev);
 239 static int velocity_intr(int irq, void *dev_instance);
 240 static void velocity_set_multi(struct net_device *dev);
 241 static struct net_device_stats *velocity_get_stats(struct net_device *dev);
 242 static int velocity_ioctl(struct net_device *dev, struct ifreq *rq, int cmd);
 243 static int velocity_close(struct net_device *dev);
 244 static int velocity_receive_frame(struct velocity_info *, int idx);
 245 static int velocity_alloc_rx_buf(struct velocity_info *, int idx);
 246 static void velocity_free_rd_ring(struct velocity_info *vptr);
 247 static void velocity_free_tx_buf(struct velocity_info *vptr, struct velocity_td_info *);
 248 static int velocity_soft_reset(struct velocity_info *vptr);
 249 static void mii_init(struct velocity_info *vptr, u32 mii_status);
 250 static u32 velocity_get_link(struct net_device *dev);
 251 static u32 velocity_get_opt_media_mode(struct velocity_info *vptr);
 252 static void velocity_print_link_status(struct velocity_info *vptr);
 253 static void safe_disable_mii_autopoll(struct mac_regs __iomem * regs);
 254 static void velocity_shutdown(struct velocity_info *vptr);
 255 static void enable_flow_control_ability(struct velocity_info *vptr);
 256 static void enable_mii_autopoll(struct mac_regs __iomem * regs);
 257 static int velocity_mii_read(struct mac_regs __iomem *, u8 byIdx, u16 * pdata);
 258 static int velocity_mii_write(struct mac_regs __iomem *, u8 byMiiAddr, u16 data);
 259 static u32 mii_check_media_mode(struct mac_regs __iomem * regs);
 260 static u32 check_connection_type(struct mac_regs __iomem * regs);
 261 static int velocity_set_media_mode(struct velocity_info *vptr, u32 mii_status);
 262
 263 #ifdef CONFIG_PM
 264
 265 static int velocity_suspend(struct pci_dev *pdev, pm_message_t state);
 266 static int velocity_resume(struct pci_dev *pdev);
 267
 268 static int velocity_netdev_event(struct notifier_block *nb, unsigned long notification, void *ptr);
 269
 270 static struct notifier_block velocity_inetaddr_notifier = {
 271       .notifier_call    = velocity_netdev_event,
 272 };
 273
 274 static DEFINE_SPINLOCK(velocity_dev_list_lock);
 275 static LIST_HEAD(velocity_dev_list);
 276
 277 static void velocity_register_notifier(void)
 278 {
 279         register_inetaddr_notifier(&velocity_inetaddr_notifier);
 280 }
 281
 282 static void velocity_unregister_notifier(void)
 283 {
 284         unregister_inetaddr_notifier(&velocity_inetaddr_notifier);
 285 }
 286
 287 #else                           /* CONFIG_PM */
 288
 289 #define velocity_register_notifier()    do {} while (0)
 290 #define velocity_unregister_notifier()  do {} while (0)
 291
 292 #endif                          /* !CONFIG_PM */
 293
 294 /*
 295  *      Internal board variants. At the moment we have only one
 296  */
 297
 298 static const struct velocity_info_tbl chip_info_table[] __devinitdata = {
 299         {CHIP_TYPE_VT6110, "VIA Networking Velocity Family Gigabit Ethernet Adapter", 1, 0x00FFFFFFUL},
 300         { }
 301 };
 302
 303 /*
 304  *      Describe the PCI device identifiers that we support in this
 305  *      device driver. Used for hotplug autoloading.
 306  */
 307
 308 static const struct pci_device_id velocity_id_table[] __devinitdata = {
 309         { PCI_DEVICE(PCI_VENDOR_ID_VIA, PCI_DEVICE_ID_VIA_612X) },
 310         { }
 311 };
 312
 313 MODULE_DEVICE_TABLE(pci, velocity_id_table);
 314
 315 /**
 316  *      get_chip_name   -       identifier to name
 317  *      @id: chip identifier
 318  *
 319  *      Given a chip identifier return a suitable description. Returns
 320  *      a pointer a static string valid while the driver is loaded.
 321  */
 322
 323 static char __devinit *get_chip_name(enum chip_type chip_id)
 324 {
 325         int i;
 326         for (i = 0; chip_info_table[i].name != NULL; i++)
 327                 if (chip_info_table[i].chip_id == chip_id)
 328                         break;
 329         return chip_info_table[i].name;
 330 }
 331
 332 /**
 333  *      velocity_remove1        -       device unplug
 334  *      @pdev: PCI device being removed
 335  *
 336  *      Device unload callback. Called on an unplug or on module
 337  *      unload for each active device that is present. Disconnects
 338  *      the device from the network layer and frees all the resources
 339  */
 340
 341 static void __devexit velocity_remove1(struct pci_dev *pdev)
 342 {
 343         struct net_device *dev = pci_get_drvdata(pdev);
 344         struct velocity_info *vptr = netdev_priv(dev);
 345
 346 #ifdef CONFIG_PM
 347         unsigned long flags;
 348
 349         spin_lock_irqsave(&velocity_dev_list_lock, flags);
 350         if (!list_empty(&velocity_dev_list))
 351                 list_del(&vptr->list);
 352         spin_unlock_irqrestore(&velocity_dev_list_lock, flags);
 353 #endif
 354         unregister_netdev(dev);
 355         iounmap(vptr->mac_regs);
 356         pci_release_regions(pdev);
 357         pci_disable_device(pdev);
 358         pci_set_drvdata(pdev, NULL);
 359         free_netdev(dev);
 360
 361         velocity_nics--;
 362 }
 363
 364 /**
 365  *      velocity_set_int_opt    -       parser for integer options
 366  *      @opt: pointer to option value
 367  *      @val: value the user requested (or -1 for default)
 368  *      @min: lowest value allowed
 369  *      @max: highest value allowed
 370  *      @def: default value
 371  *      @name: property name
 372  *      @dev: device name
 373  *
 374  *      Set an integer property in the module options. This function does
 375  *      all the verification and checking as well as reporting so that
 376  *      we don't duplicate code for each option.
 377  */
 378
 379 static void __devinit velocity_set_int_opt(int *opt, int val, int min, int max, int def, char *name, char *devname)
 380 {
 381         if (val == -1)
 382                 *opt = def;
 383         else if (val < min || val > max) {
 384                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_NOTICE "%s: the value of parameter %s is invalid, the valid range is (%d-%d)\n",
 385                                         devname, name, min, max);
 386                 *opt = def;
 387         } else {
 388                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_INFO "%s: set value of parameter %s to %d\n",
 389                                         devname, name, val);
 390                 *opt = val;
 391         }
 392 }
 393
 394 /**
 395  *      velocity_set_bool_opt   -       parser for boolean options
 396  *      @opt: pointer to option value
 397  *      @val: value the user requested (or -1 for default)
 398  *      @def: default value (yes/no)
 399  *      @flag: numeric value to set for true.
 400  *      @name: property name
 401  *      @dev: device name
 402  *
 403  *      Set a boolean property in the module options. This function does
 404  *      all the verification and checking as well as reporting so that
 405  *      we don't duplicate code for each option.
 406  */
 407
 408 static void __devinit velocity_set_bool_opt(u32 * opt, int val, int def, u32 flag, char *name, char *devname)
 409 {
 410         (*opt) &= (~flag);
 411         if (val == -1)
 412                 *opt |= (def ? flag : 0);
 413         else if (val < 0 || val > 1) {
 414                 printk(KERN_NOTICE "%s: the value of parameter %s is invalid, the valid range is (0-1)\n",
 415                         devname, name);
 416                 *opt |= (def ? flag : 0);
 417         } else {
 418                 printk(KERN_INFO "%s: set parameter %s to %s\n",
 419                         devname, name, val ? "TRUE" : "FALSE");
 420                 *opt |= (val ? flag : 0);
 421         }
 422 }
 423
 424 /**
 425  *      velocity_get_options    -       set options on device
 426  *      @opts: option structure for the device
 427  *      @index: index of option to use in module options array
 428  *      @devname: device name
 429  *
 430  *      Turn the module and command options into a single structure
 431  *      for the current device
 432  */
 433
 434 static void __devinit velocity_get_options(struct velocity_opt *opts, int index, char *devname)
 435 {
 436
 437         velocity_set_int_opt(&opts->rx_thresh, rx_thresh[index], RX_THRESH_MIN, RX_THRESH_MAX, RX_THRESH_DEF, "rx_thresh", devname);
 438         velocity_set_int_opt(&opts->DMA_length, DMA_length[index], DMA_LENGTH_MIN, DMA_LENGTH_MAX, DMA_LENGTH_DEF, "DMA_length", devname);
 439         velocity_set_int_opt(&opts->numrx, RxDescriptors[index], RX_DESC_MIN, RX_DESC_MAX, RX_DESC_DEF, "RxDescriptors", devname);
 440         velocity_set_int_opt(&opts->numtx, TxDescriptors[index], TX_DESC_MIN, TX_DESC_MAX, TX_DESC_DEF, "TxDescriptors", devname);
 441         velocity_set_int_opt(&opts->vid, VID_setting[index], VLAN_ID_MIN, VLAN_ID_MAX, VLAN_ID_DEF, "VID_setting", devname);
 442         velocity_set_bool_opt(&opts->flags, enable_tagging[index], TAGGING_DEF, VELOCITY_FLAGS_TAGGING, "enable_tagging", devname);
 443         velocity_set_bool_opt(&opts->flags, txcsum_offload[index], TX_CSUM_DEF, VELOCITY_FLAGS_TX_CSUM, "txcsum_offload", devname);
 444         velocity_set_int_opt(&opts->flow_cntl, flow_control[index], FLOW_CNTL_MIN, FLOW_CNTL_MAX, FLOW_CNTL_DEF, "flow_control", devname);
 445         velocity_set_bool_opt(&opts->flags, IP_byte_align[index], IP_ALIG_DEF, VELOCITY_FLAGS_IP_ALIGN, "IP_byte_align", devname);
 446         velocity_set_bool_opt(&opts->flags, ValPktLen[index], VAL_PKT_LEN_DEF, VELOCITY_FLAGS_VAL_PKT_LEN, "ValPktLen", devname);
 447         velocity_set_int_opt((int *) &opts->spd_dpx, speed_duplex[index], MED_LNK_MIN, MED_LNK_MAX, MED_LNK_DEF, "Media link mode", devname);
 448         velocity_set_int_opt((int *) &opts->wol_opts, wol_opts[index], WOL_OPT_MIN, WOL_OPT_MAX, WOL_OPT_DEF, "Wake On Lan options", devname);
 449         velocity_set_int_opt((int *) &opts->int_works, int_works[index], INT_WORKS_MIN, INT_WORKS_MAX, INT_WORKS_DEF, "Interrupt service works", devname);
 450         opts->numrx = (opts->numrx & ~3);
 451 }
 452
 453 /**
 454  *      velocity_init_cam_filter        -       initialise CAM
 455  *      @vptr: velocity to program
 456  *
 457  *      Initialize the content addressable memory used for filters. Load
 458  *      appropriately according to the presence of VLAN
 459  */
 460
 461 static void velocity_init_cam_filter(struct velocity_info *vptr)
 462 {
 463         struct mac_regs __iomem * regs = vptr->mac_regs;
 464
 465         /* Turn on MCFG_PQEN, turn off MCFG_RTGOPT */
 466         WORD_REG_BITS_SET(MCFG_PQEN, MCFG_RTGOPT, &regs->MCFG);
 467         WORD_REG_BITS_ON(MCFG_VIDFR, &regs->MCFG);
 468
 469         /* Disable all CAMs */
 470         memset(vptr->vCAMmask, 0, sizeof(u8) * 8);
 471         memset(vptr->mCAMmask, 0, sizeof(u8) * 8);
 472         mac_set_cam_mask(regs, vptr->vCAMmask, VELOCITY_VLAN_ID_CAM);
 473         mac_set_cam_mask(regs, vptr->mCAMmask, VELOCITY_MULTICAST_CAM);
 474
 475         /* Enable first VCAM */
 476         if (vptr->flags & VELOCITY_FLAGS_TAGGING) {
 477                 /* If Tagging option is enabled and VLAN ID is not zero, then
 478                    turn on MCFG_RTGOPT also */
 479                 if (vptr->options.vid != 0)
 480                         WORD_REG_BITS_ON(MCFG_RTGOPT, &regs->MCFG);
 481
 482                 mac_set_cam(regs, 0, (u8 *) & (vptr->options.vid), VELOCITY_VLAN_ID_CAM);
 483                 vptr->vCAMmask[0] |= 1;
 484                 mac_set_cam_mask(regs, vptr->vCAMmask, VELOCITY_VLAN_ID_CAM);
 485         } else {
 486                 u16 temp = 0;
 487                 mac_set_cam(regs, 0, (u8 *) &temp, VELOCITY_VLAN_ID_CAM);
 488                 temp = 1;
 489                 mac_set_cam_mask(regs, (u8 *) &temp, VELOCITY_VLAN_ID_CAM);
 490         }
 491 }
 492
 493 /**
 494  *      velocity_rx_reset       -       handle a receive reset
 495  *      @vptr: velocity we are resetting
 496  *
 497  *      Reset the ownership and status for the receive ring side.
 498  *      Hand all the receive queue to the NIC.
 499  */
 500
 501 static void velocity_rx_reset(struct velocity_info *vptr)
 502 {
 503
 504         struct mac_regs __iomem * regs = vptr->mac_regs;
 505         int i;
 506
 507         vptr->rd_dirty = vptr->rd_filled = vptr->rd_curr = 0;
 508
 509         /*
 510          *      Init state, all RD entries belong to the NIC
 511          */
 512         for (i = 0; i < vptr->options.numrx; ++i)
 513                 vptr->rd_ring[i].rdesc0.owner = OWNED_BY_NIC;
 514
 515         writew(vptr->options.numrx, &regs->RBRDU);
 516         writel(vptr->rd_pool_dma, &regs->RDBaseLo);
 517         writew(0, &regs->RDIdx);
 518         writew(vptr->options.numrx - 1, &regs->RDCSize);
 519 }
 520
 521 /**
 522  *      velocity_init_registers -       initialise MAC registers
 523  *      @vptr: velocity to init
 524  *      @type: type of initialisation (hot or cold)
 525  *
 526  *      Initialise the MAC on a reset or on first set up on the
 527  *      hardware.
 528  */
 529
 530 static void velocity_init_registers(struct velocity_info *vptr,
 531                                     enum velocity_init_type type)
 532 {
 533         struct mac_regs __iomem * regs = vptr->mac_regs;
 534         int i, mii_status;
 535
 536         mac_wol_reset(regs);
 537
 538         switch (type) {
 539         case VELOCITY_INIT_RESET:
 540         case VELOCITY_INIT_WOL:
 541
 542                 netif_stop_queue(vptr->dev);
 543
 544                 /*
 545                  *      Reset RX to prevent RX pointer not on the 4X location
 546                  */
 547                 velocity_rx_reset(vptr);
 548                 mac_rx_queue_run(regs);
 549                 mac_rx_queue_wake(regs);
 550
 551                 mii_status = velocity_get_opt_media_mode(vptr);
 552                 if (velocity_set_media_mode(vptr, mii_status) != VELOCITY_LINK_CHANGE) {
 553                         velocity_print_link_status(vptr);
 554                         if (!(vptr->mii_status & VELOCITY_LINK_FAIL))
 555                                 netif_wake_queue(vptr->dev);
 556                 }
 557
 558                 enable_flow_control_ability(vptr);
 559
 560                 mac_clear_isr(regs);
 561                 writel(CR0_STOP, &regs->CR0Clr);
 562                 writel((CR0_DPOLL | CR0_TXON | CR0_RXON | CR0_STRT),
 563                                                         &regs->CR0Set);
 564
 565                 break;
 566
 567         case VELOCITY_INIT_COLD:
 568         default:
 569                 /*
 570                  *      Do reset
 571                  */
 572                 velocity_soft_reset(vptr);
 573                 mdelay(5);
 574
 575                 mac_eeprom_reload(regs);
 576                 for (i = 0; i < 6; i++) {
 577                         writeb(vptr->dev->dev_addr[i], &(regs->PAR[i]));
 578                 }
 579                 /*
 580                  *      clear Pre_ACPI bit.
 581                  */
 582                 BYTE_REG_BITS_OFF(CFGA_PACPI, &(regs->CFGA));
 583                 mac_set_rx_thresh(regs, vptr->options.rx_thresh);
 584                 mac_set_dma_length(regs, vptr->options.DMA_length);
 585
 586                 writeb(WOLCFG_SAM | WOLCFG_SAB, &regs->WOLCFGSet);
 587                 /*
 588                  *      Back off algorithm use original IEEE standard
 589                  */
 590                 BYTE_REG_BITS_SET(CFGB_OFSET, (CFGB_CRANDOM | CFGB_CAP | CFGB_MBA | CFGB_BAKOPT), &regs->CFGB);
 591
 592                 /*
 593                  *      Init CAM filter
 594                  */
 595                 velocity_init_cam_filter(vptr);
 596
 597                 /*
 598                  *      Set packet filter: Receive directed and broadcast address
 599                  */
 600                 velocity_set_multi(vptr->dev);
 601
 602                 /*
 603                  *      Enable MII auto-polling
 604                  */
 605                 enable_mii_autopoll(regs);
 606
 607                 vptr->int_mask = INT_MASK_DEF;
 608
 609                 writel(cpu_to_le32(vptr->rd_pool_dma), &regs->RDBaseLo);
 610                 writew(vptr->options.numrx - 1, &regs->RDCSize);
 611                 mac_rx_queue_run(regs);
 612                 mac_rx_queue_wake(regs);
 613
 614                 writew(vptr->options.numtx - 1, &regs->TDCSize);
 615
 616                 for (i = 0; i < vptr->num_txq; i++) {
 617                         writel(cpu_to_le32(vptr->td_pool_dma[i]), &(regs->TDBaseLo[i]));
 618                         mac_tx_queue_run(regs, i);
 619                 }
 620
 621                 init_flow_control_register(vptr);
 622
 623                 writel(CR0_STOP, &regs->CR0Clr);
 624                 writel((CR0_DPOLL | CR0_TXON | CR0_RXON | CR0_STRT), &regs->CR0Set);
 625
 626                 mii_status = velocity_get_opt_media_mode(vptr);
 627                 netif_stop_queue(vptr->dev);
 628
 629                 mii_init(vptr, mii_status);
 630
 631                 if (velocity_set_media_mode(vptr, mii_status) != VELOCITY_LINK_CHANGE) {
 632                         velocity_print_link_status(vptr);
 633                         if (!(vptr->mii_status & VELOCITY_LINK_FAIL))
 634                                 netif_wake_queue(vptr->dev);
 635                 }
 636
 637                 enable_flow_control_ability(vptr);
 638                 mac_hw_mibs_init(regs);
 639                 mac_write_int_mask(vptr->int_mask, regs);
 640                 mac_clear_isr(regs);
 641
 642         }
 643 }
 644
 645 /**
 646  *      velocity_soft_reset     -       soft reset
 647  *      @vptr: velocity to reset
 648  *
 649  *      Kick off a soft reset of the velocity adapter and then poll
 650  *      until the reset sequence has completed before returning.
 651  */
 652
 653 static int velocity_soft_reset(struct velocity_info *vptr)
 654 {
 655         struct mac_regs __iomem * regs = vptr->mac_regs;
 656         int i = 0;
 657
 658         writel(CR0_SFRST, &regs->CR0Set);
 659
 660         for (i = 0; i < W_MAX_TIMEOUT; i++) {
 661                 udelay(5);
 662                 if (!DWORD_REG_BITS_IS_ON(CR0_SFRST, &regs->CR0Set))
 663                         break;
 664         }
 665
 666         if (i == W_MAX_TIMEOUT) {
 667                 writel(CR0_FORSRST, &regs->CR0Set);
 668                 /* FIXME: PCI POSTING */
 669                 /* delay 2ms */
 670                 mdelay(2);
 671         }
 672         return 0;
 673 }
 674
 675 /**
 676  *      velocity_found1         -       set up discovered velocity card
 677  *      @pdev: PCI device
 678  *      @ent: PCI device table entry that matched
 679  *
 680  *      Configure a discovered adapter from scratch. Return a negative
 681  *      errno error code on failure paths.
 682  */
 683
 684 static int __devinit velocity_found1(struct pci_dev *pdev, const struct pci_device_id *ent)
 685 {
 686         static int first = 1;
 687         struct net_device *dev;
 688         int i;
 689         const struct velocity_info_tbl *info = &chip_info_table[ent->driver_data];
 690         struct velocity_info *vptr;
 691         struct mac_regs __iomem * regs;
 692         int ret = -ENOMEM;
 693
 694         /* FIXME: this driver, like almost all other ethernet drivers,
 695          * can support more than MAX_UNITS.
 696          */
 697         if (velocity_nics >= MAX_UNITS) {
 698                 dev_notice(&pdev->dev, "already found %d NICs.\n",
 699                            velocity_nics);
 700                 return -ENODEV;
 701         }
 702
 703         dev = alloc_etherdev(sizeof(struct velocity_info));
 704         if (!dev) {
 705                 dev_err(&pdev->dev, "allocate net device failed.\n");
 706                 goto out;
 707         }
 708
 709         /* Chain it all together */
 710
 711         SET_MODULE_OWNER(dev);
 712         SET_NETDEV_DEV(dev, &pdev->dev);
 713         vptr = netdev_priv(dev);
 714
 715
 716         if (first) {
 717                 printk(KERN_INFO "%s Ver. %s\n",
 718                         VELOCITY_FULL_DRV_NAM, VELOCITY_VERSION);
 719                 printk(KERN_INFO "Copyright (c) 2002, 2003 VIA Networking Technologies, Inc.\n");
 720                 printk(KERN_INFO "Copyright (c) 2004 Red Hat Inc.\n");
 721                 first = 0;
 722         }
 723
 724         velocity_init_info(pdev, vptr, info);
 725
 726         vptr->dev = dev;
 727
 728         dev->irq = pdev->irq;
 729
 730         ret = pci_enable_device(pdev);
 731         if (ret < 0)
 732                 goto err_free_dev;
 733
 734         ret = velocity_get_pci_info(vptr, pdev);
 735         if (ret < 0) {
 736                 /* error message already printed */
 737                 goto err_disable;
 738         }
 739
 740         ret = pci_request_regions(pdev, VELOCITY_NAME);
 741         if (ret < 0) {
 742                 dev_err(&pdev->dev, "No PCI resources.\n");
 743                 goto err_disable;
 744         }
 745
 746         regs = ioremap(vptr->memaddr, VELOCITY_IO_SIZE);
 747         if (regs == NULL) {
 748                 ret = -EIO;
 749                 goto err_release_res;
 750         }
 751
 752         vptr->mac_regs = regs;
 753
 754         mac_wol_reset(regs);
 755
 756         dev->base_addr = vptr->ioaddr;
 757
 758         for (i = 0; i < 6; i++)
 759                 dev->dev_addr[i] = readb(&regs->PAR[i]);
 760
 761
 762         velocity_get_options(&vptr->options, velocity_nics, dev->name);
 763
 764         /*
 765          *      Mask out the options cannot be set to the chip
 766          */
 767
 768         vptr->options.flags &= info->flags;
 769
 770         /*
 771          *      Enable the chip specified capbilities
 772          */
 773
 774         vptr->flags = vptr->options.flags | (info->flags & 0xFF000000UL);
 775
 776         vptr->wol_opts = vptr->options.wol_opts;
 777         vptr->flags |= VELOCITY_FLAGS_WOL_ENABLED;
 778
 779         vptr->phy_id = MII_GET_PHY_ID(vptr->mac_regs);
 780
 781         dev->irq = pdev->irq;
 782         dev->open = velocity_open;
 783         dev->hard_start_xmit = velocity_xmit;
 784         dev->stop = velocity_close;
 785         dev->get_stats = velocity_get_stats;
 786         dev->set_multicast_list = velocity_set_multi;
 787         dev->do_ioctl = velocity_ioctl;
 788         dev->ethtool_ops = &velocity_ethtool_ops;
 789         dev->change_mtu = velocity_change_mtu;
 790 #ifdef  VELOCITY_ZERO_COPY_SUPPORT
 791         dev->features |= NETIF_F_SG;
 792 #endif
 793
 794         if (vptr->flags & VELOCITY_FLAGS_TX_CSUM) {
 795                 dev->features |= NETIF_F_IP_CSUM;
 796         }
 797
 798         ret = register_netdev(dev);
 799         if (ret < 0)
 800                 goto err_iounmap;
 801
 802         if (velocity_get_link(dev))
 803                 netif_carrier_off(dev);
 804
 805         velocity_print_info(vptr);
 806         pci_set_drvdata(pdev, dev);
 807
 808         /* and leave the chip powered down */
 809
 810         pci_set_power_state(pdev, PCI_D3hot);
 811 #ifdef CONFIG_PM
 812         {
 813                 unsigned long flags;
 814
 815                 spin_lock_irqsave(&velocity_dev_list_lock, flags);
 816                 list_add(&vptr->list, &velocity_dev_list);
 817                 spin_unlock_irqrestore(&velocity_dev_list_lock, flags);
 818         }
 819 #endif
 820         velocity_nics++;
 821 out:
 822         return ret;
 823
 824 err_iounmap:
 825         iounmap(regs);
 826 err_release_res:
 827         pci_release_regions(pdev);
 828 err_disable:
 829         pci_disable_device(pdev);
 830 err_free_dev:
 831         free_netdev(dev);
 832         goto out;
 833 }
 834
 835 /**
 836  *      velocity_print_info     -       per driver data
 837  *      @vptr: velocity
 838  *
 839  *      Print per driver data as the kernel driver finds Velocity
 840  *      hardware
 841  */
 842
 843 static void __devinit velocity_print_info(struct velocity_info *vptr)
 844 {
 845         struct net_device *dev = vptr->dev;
 846
 847         printk(KERN_INFO "%s: %s\n", dev->name, get_chip_name(vptr->chip_id));
 848         printk(KERN_INFO "%s: Ethernet Address: %2.2X:%2.2X:%2.2X:%2.2X:%2.2X:%2.2X\n",
 849                 dev->name,
 850                 dev->dev_addr[0], dev->dev_addr[1], dev->dev_addr[2],
 851                 dev->dev_addr[3], dev->dev_addr[4], dev->dev_addr[5]);
 852 }
 853
 854 /**
 855  *      velocity_init_info      -       init private data
 856  *      @pdev: PCI device
 857  *      @vptr: Velocity info
 858  *      @info: Board type
 859  *
 860  *      Set up the initial velocity_info struct for the device that has been
 861  *      discovered.
 862  */
 863
 864 static void __devinit velocity_init_info(struct pci_dev *pdev,
 865                                          struct velocity_info *vptr,
 866                                          const struct velocity_info_tbl *info)
 867 {
 868         memset(vptr, 0, sizeof(struct velocity_info));
 869
 870         vptr->pdev = pdev;
 871         vptr->chip_id = info->chip_id;
 872         vptr->num_txq = info->txqueue;
 873         vptr->multicast_limit = MCAM_SIZE;
 874         spin_lock_init(&vptr->lock);
 875         INIT_LIST_HEAD(&vptr->list);
 876 }
 877
 878 /**
 879  *      velocity_get_pci_info   -       retrieve PCI info for device
 880  *      @vptr: velocity device
 881  *      @pdev: PCI device it matches
 882  *
 883  *      Retrieve the PCI configuration space data that interests us from
 884  *      the kernel PCI layer
 885  */
 886
 887 static int __devinit velocity_get_pci_info(struct velocity_info *vptr, struct pci_dev *pdev)
 888 {
 889         if (pci_read_config_byte(pdev, PCI_REVISION_ID, &vptr->rev_id) < 0)
 890                 return -EIO;
 891
 892         pci_set_master(pdev);
 893
 894         vptr->ioaddr = pci_resource_start(pdev, 0);
 895         vptr->memaddr = pci_resource_start(pdev, 1);
 896
 897         if (!(pci_resource_flags(pdev, 0) & IORESOURCE_IO)) {
 898                 dev_err(&pdev->dev,
 899                            "region #0 is not an I/O resource, aborting.\n");
 900                 return -EINVAL;
 901         }
 902
 903         if ((pci_resource_flags(pdev, 1) & IORESOURCE_IO)) {
 904                 dev_err(&pdev->dev,
 905                            "region #1 is an I/O resource, aborting.\n");
 906                 return -EINVAL;
 907         }
 908
 909         if (pci_resource_len(pdev, 1) < VELOCITY_IO_SIZE) {
 910                 dev_err(&pdev->dev, "region #1 is too small.\n");
 911                 return -EINVAL;
 912         }
 913         vptr->pdev = pdev;
 914
 915         return 0;
 916 }
 917
 918 /**
 919  *      velocity_init_rings     -       set up DMA rings
 920  *      @vptr: Velocity to set up
 921  *
 922  *      Allocate PCI mapped DMA rings for the receive and transmit layer
 923  *      to use.
 924  */
 925
 926 static int velocity_init_rings(struct velocity_info *vptr)
 927 {
 928         int i;
 929         unsigned int psize;
 930         unsigned int tsize;
 931         dma_addr_t pool_dma;
 932         u8 *pool;
 933
 934         /*
 935          *      Allocate all RD/TD rings a single pool
 936          */
 937
 938         psize = vptr->options.numrx * sizeof(struct rx_desc) +
 939                 vptr->options.numtx * sizeof(struct tx_desc) * vptr->num_txq;
 940
 941         /*
 942          * pci_alloc_consistent() fulfills the requirement for 64 bytes
 943          * alignment
 944          */
 945         pool = pci_alloc_consistent(vptr->pdev, psize, &pool_dma);
 946
 947         if (pool == NULL) {
 948                 printk(KERN_ERR "%s : DMA memory allocation failed.\n",
 949                                         vptr->dev->name);
 950                 return -ENOMEM;
 951         }
 952
 953         memset(pool, 0, psize);
 954
 955         vptr->rd_ring = (struct rx_desc *) pool;
 956
 957         vptr->rd_pool_dma = pool_dma;
 958
 959         tsize = vptr->options.numtx * PKT_BUF_SZ * vptr->num_txq;
 960         vptr->tx_bufs = pci_alloc_consistent(vptr->pdev, tsize,
 961                                                 &vptr->tx_bufs_dma);
 962
 963         if (vptr->tx_bufs == NULL) {
 964                 printk(KERN_ERR "%s: DMA memory allocation failed.\n",
 965                                         vptr->dev->name);
 966                 pci_free_consistent(vptr->pdev, psize, pool, pool_dma);
 967                 return -ENOMEM;
 968         }
 969
 970         memset(vptr->tx_bufs, 0, vptr->options.numtx * PKT_BUF_SZ * vptr->num_txq);
 971
 972         i = vptr->options.numrx * sizeof(struct rx_desc);
 973         pool += i;
 974         pool_dma += i;
 975         for (i = 0; i < vptr->num_txq; i++) {
 976                 int offset = vptr->options.numtx * sizeof(struct tx_desc);
 977
 978                 vptr->td_pool_dma[i] = pool_dma;
 979                 vptr->td_rings[i] = (struct tx_desc *) pool;
 980                 pool += offset;
 981                 pool_dma += offset;
 982         }
 983         return 0;
 984 }
 985
 986 /**
 987  *      velocity_free_rings     -       free PCI ring pointers
 988  *      @vptr: Velocity to free from
 989  *
 990  *      Clean up the PCI ring buffers allocated to this velocity.
 991  */
 992
 993 static void velocity_free_rings(struct velocity_info *vptr)
 994 {
 995         int size;
 996
 997         size = vptr->options.numrx * sizeof(struct rx_desc) +
 998                vptr->options.numtx * sizeof(struct tx_desc) * vptr->num_txq;
 999
1000         pci_free_consistent(vptr->pdev, size, vptr->rd_ring, vptr->rd_pool_dma);
1001
1002         size = vptr->options.numtx * PKT_BUF_SZ * vptr->num_txq;
1003
1004         pci_free_consistent(vptr->pdev, size, vptr->tx_bufs, vptr->tx_bufs_dma);
1005 }
1006
1007 static inline void velocity_give_many_rx_descs(struct velocity_info *vptr)
1008 {
1009         struct mac_regs __iomem *regs = vptr->mac_regs;
1010         int avail, dirty, unusable;
1011
1012         /*
1013          * RD number must be equal to 4X per hardware spec
1014          * (programming guide rev 1.20, p.13)
1015          */
1016         if (vptr->rd_filled < 4)
1017                 return;
1018
1019         wmb();
1020
1021         unusable = vptr->rd_filled & 0x0003;
1022         dirty = vptr->rd_dirty - unusable;
1023         for (avail = vptr->rd_filled & 0xfffc; avail; avail--) {
1024                 dirty = (dirty > 0) ? dirty - 1 : vptr->options.numrx - 1;
1025                 vptr->rd_ring[dirty].rdesc0.owner = OWNED_BY_NIC;
1026         }
1027
1028         writew(vptr->rd_filled & 0xfffc, &regs->RBRDU);
1029         vptr->rd_filled = unusable;
1030 }
1031
1032 static int velocity_rx_refill(struct velocity_info *vptr)
1033 {
1034         int dirty = vptr->rd_dirty, done = 0, ret = 0;
1035
1036         do {
1037                 struct rx_desc *rd = vptr->rd_ring + dirty;
1038
1039                 /* Fine for an all zero Rx desc at init time as well */
1040                 if (rd->rdesc0.owner == OWNED_BY_NIC)
1041                         break;
1042
1043                 if (!vptr->rd_info[dirty].skb) {
1044                         ret = velocity_alloc_rx_buf(vptr, dirty);
1045                         if (ret < 0)
1046                                 break;
1047                 }
1048                 done++;
1049                 dirty = (dirty < vptr->options.numrx - 1) ? dirty + 1 : 0;
1050         } while (dirty != vptr->rd_curr);
1051
1052         if (done) {
1053                 vptr->rd_dirty = dirty;
1054                 vptr->rd_filled += done;
1055                 velocity_give_many_rx_descs(vptr);
1056         }
1057
1058         return ret;
1059 }
1060
1061 /**
1062  *      velocity_init_rd_ring   -       set up receive ring
1063  *      @vptr: velocity to configure
1064  *
1065  *      Allocate and set up the receive buffers for each ring slot and
1066  *      assign them to the network adapter.
1067  */
1068
1069 static int velocity_init_rd_ring(struct velocity_info *vptr)
1070 {
1071         int ret = -ENOMEM;
1072         unsigned int rsize = sizeof(struct velocity_rd_info) *
1073                                         vptr->options.numrx;
1074
1075         vptr->rd_info = kmalloc(rsize, GFP_KERNEL);
1076         if(vptr->rd_info == NULL)
1077                 goto out;
1078         memset(vptr->rd_info, 0, rsize);
1079
1080         vptr->rd_filled = vptr->rd_dirty = vptr->rd_curr = 0;
1081
1082         ret = velocity_rx_refill(vptr);
1083         if (ret < 0) {
1084                 VELOCITY_PRT(MSG_LEVEL_ERR, KERN_ERR
1085                         "%s: failed to allocate RX buffer.\n", vptr->dev->name);
1086                 velocity_free_rd_ring(vptr);
1087         }
1088 out:
1089         return ret;
1090 }
1091
1092 /**
1093  *      velocity_free_rd_ring   -       free receive ring
1094  *      @vptr: velocity to clean up
1095  *
1096  *      Free the receive buffers for each ring slot and any
1097  *      attached socket buffers that need to go away.
1098  */
1099
1100 static void velocity_free_rd_ring(struct velocity_info *vptr)
1101 {
1102         int i;
1103
1104         if (vptr->rd_info == NULL)
1105                 return;
1106
1107         for (i = 0; i < vptr->options.numrx; i++) {
1108                 struct velocity_rd_info *rd_info = &(vptr->rd_info[i]);
1109                 struct rx_desc *rd = vptr->rd_ring + i;
1110
1111                 memset(rd, 0, sizeof(*rd));
1112
1113                 if (!rd_info->skb)
1114                         continue;
1115                 pci_unmap_single(vptr->pdev, rd_info->skb_dma, vptr->rx_buf_sz,
1116                                  PCI_DMA_FROMDEVICE);
1117                 rd_info->skb_dma = (dma_addr_t) NULL;
1118
1119                 dev_kfree_skb(rd_info->skb);
1120                 rd_info->skb = NULL;
1121         }
1122
1123         kfree(vptr->rd_info);
1124         vptr->rd_info = NULL;
1125 }
1126
1127 /**
1128  *      velocity_init_td_ring   -       set up transmit ring
1129  *      @vptr:  velocity
1130  *
1131  *      Set up the transmit ring and chain the ring pointers together.
1132  *      Returns zero on success or a negative posix errno code for
1133  *      failure.
1134  */
1135
1136 static int velocity_init_td_ring(struct velocity_info *vptr)
1137 {
1138         int i, j;
1139         dma_addr_t curr;
1140         struct tx_desc *td;
1141         struct velocity_td_info *td_info;
1142         unsigned int tsize = sizeof(struct velocity_td_info) *
1143                                         vptr->options.numtx;
1144
1145         /* Init the TD ring entries */
1146         for (j = 0; j < vptr->num_txq; j++) {
1147                 curr = vptr->td_pool_dma[j];
1148
1149                 vptr->td_infos[j] = kmalloc(tsize, GFP_KERNEL);
1150                 if(vptr->td_infos[j] == NULL)
1151                 {
1152                         while(--j >= 0)
1153                                 kfree(vptr->td_infos[j]);
1154                         return -ENOMEM;
1155                 }
1156                 memset(vptr->td_infos[j], 0, tsize);
1157
1158                 for (i = 0; i < vptr->options.numtx; i++, curr += sizeof(struct tx_desc)) {
1159                         td = &(vptr->td_rings[j][i]);
1160                         td_info = &(vptr->td_infos[j][i]);
1161                         td_info->buf = vptr->tx_bufs +
1162                                 (j * vptr->options.numtx + i) * PKT_BUF_SZ;
1163                         td_info->buf_dma = vptr->tx_bufs_dma +
1164                                 (j * vptr->options.numtx + i) * PKT_BUF_SZ;
1165                 }
1166                 vptr->td_tail[j] = vptr->td_curr[j] = vptr->td_used[j] = 0;
1167         }
1168         return 0;
1169 }
1170
1171 /*
1172  *      FIXME: could we merge this with velocity_free_tx_buf ?
1173  */
1174
1175 static void velocity_free_td_ring_entry(struct velocity_info *vptr,
1176                                                          int q, int n)
1177 {
1178         struct velocity_td_info * td_info = &(vptr->td_infos[q][n]);
1179         int i;
1180
1181         if (td_info == NULL)
1182                 return;
1183
1184         if (td_info->skb) {
1185                 for (i = 0; i < td_info->nskb_dma; i++)
1186                 {
1187                         if (td_info->skb_dma[i]) {
1188                                 pci_unmap_single(vptr->pdev, td_info->skb_dma[i],
1189                                         td_info->skb->len, PCI_DMA_TODEVICE);
1190                                 td_info->skb_dma[i] = (dma_addr_t) NULL;
1191                         }
1192                 }
1193                 dev_kfree_skb(td_info->skb);
1194                 td_info->skb = NULL;
1195         }
1196 }
1197
1198 /**
1199  *      velocity_free_td_ring   -       free td ring
1200  *      @vptr: velocity
1201  *
1202  *      Free up the transmit ring for this particular velocity adapter.
1203  *      We free the ring contents but not the ring itself.
1204  */
1205
1206 static void velocity_free_td_ring(struct velocity_info *vptr)
1207 {
1208         int i, j;
1209
1210         for (j = 0; j < vptr->num_txq; j++) {
1211                 if (vptr->td_infos[j] == NULL)
1212                         continue;
1213                 for (i = 0; i < vptr->options.numtx; i++) {
1214                         velocity_free_td_ring_entry(vptr, j, i);
1215
1216                 }
1217                 kfree(vptr->td_infos[j]);
1218                 vptr->td_infos[j] = NULL;
1219         }
1220 }
1221
1222 /**
1223  *      velocity_rx_srv         -       service RX interrupt
1224  *      @vptr: velocity
1225  *      @status: adapter status (unused)
1226  *
1227  *      Walk the receive ring of the velocity adapter and remove
1228  *      any received packets from the receive queue. Hand the ring
1229  *      slots back to the adapter for reuse.
1230  */
1231
1232 static int velocity_rx_srv(struct velocity_info *vptr, int status)
1233 {
1234         struct net_device_stats *stats = &vptr->stats;
1235         int rd_curr = vptr->rd_curr;
1236         int works = 0;
1237
1238         do {
1239                 struct rx_desc *rd = vptr->rd_ring + rd_curr;
1240
1241                 if (!vptr->rd_info[rd_curr].skb)
1242                         break;
1243
1244                 if (rd->rdesc0.owner == OWNED_BY_NIC)
1245                         break;
1246
1247                 rmb();
1248
1249                 /*
1250                  *      Don't drop CE or RL error frame although RXOK is off
1251                  */
1252                 if ((rd->rdesc0.RSR & RSR_RXOK) || (!(rd->rdesc0.RSR & RSR_RXOK) && (rd->rdesc0.RSR & (RSR_CE | RSR_RL)))) {
1253                         if (velocity_receive_frame(vptr, rd_curr) < 0)
1254                                 stats->rx_dropped++;
1255                 } else {
1256                         if (rd->rdesc0.RSR & RSR_CRC)
1257                                 stats->rx_crc_errors++;
1258                         if (rd->rdesc0.RSR & RSR_FAE)
1259                                 stats->rx_frame_errors++;
1260
1261                         stats->rx_dropped++;
1262                 }
1263
1264                 rd->inten = 1;
1265
1266                 vptr->dev->last_rx = jiffies;
1267
1268                 rd_curr++;
1269                 if (rd_curr >= vptr->options.numrx)
1270                         rd_curr = 0;
1271         } while (++works <= 15);
1272
1273         vptr->rd_curr = rd_curr;
1274
1275         if (works > 0 && velocity_rx_refill(vptr) < 0) {
1276                 VELOCITY_PRT(MSG_LEVEL_ERR, KERN_ERR
1277                         "%s: rx buf allocation failure\n", vptr->dev->name);
1278         }
1279
1280         VAR_USED(stats);
1281         return works;
1282 }
1283
1284 /**
1285  *      velocity_rx_csum        -       checksum process
1286  *      @rd: receive packet descriptor
1287  *      @skb: network layer packet buffer
1288  *
1289  *      Process the status bits for the received packet and determine
1290  *      if the checksum was computed and verified by the hardware
1291  */
1292
1293 static inline void velocity_rx_csum(struct rx_desc *rd, struct sk_buff *skb)
1294 {
1295         skb->ip_summed = CHECKSUM_NONE;
1296
1297         if (rd->rdesc1.CSM & CSM_IPKT) {
1298                 if (rd->rdesc1.CSM & CSM_IPOK) {
1299                         if ((rd->rdesc1.CSM & CSM_TCPKT) ||
1300                                         (rd->rdesc1.CSM & CSM_UDPKT)) {
1301                                 if (!(rd->rdesc1.CSM & CSM_TUPOK)) {
1302                                         return;
1303                                 }
1304                         }
1305                         skb->ip_summed = CHECKSUM_UNNECESSARY;
1306                 }
1307         }
1308 }
1309
1310 /**
1311  *      velocity_rx_copy        -       in place Rx copy for small packets
1312  *      @rx_skb: network layer packet buffer candidate
1313  *      @pkt_size: received data size
1314  *      @rd: receive packet descriptor
1315  *      @dev: network device
1316  *
1317  *      Replace the current skb that is scheduled for Rx processing by a
1318  *      shorter, immediatly allocated skb, if the received packet is small
1319  *      enough. This function returns a negative value if the received
1320  *      packet is too big or if memory is exhausted.
1321  */
1322 static inline int velocity_rx_copy(struct sk_buff **rx_skb, int pkt_size,
1323                                    struct velocity_info *vptr)
1324 {
1325         int ret = -1;
1326
1327         if (pkt_size < rx_copybreak) {
1328                 struct sk_buff *new_skb;
1329
1330                 new_skb = dev_alloc_skb(pkt_size + 2);
1331                 if (new_skb) {
1332                         new_skb->dev = vptr->dev;
1333                         new_skb->ip_summed = rx_skb[0]->ip_summed;
1334
1335                         if (vptr->flags & VELOCITY_FLAGS_IP_ALIGN)
1336                                 skb_reserve(new_skb, 2);
1337
1338                         memcpy(new_skb->data, rx_skb[0]->data, pkt_size);
1339                         *rx_skb = new_skb;
1340                         ret = 0;
1341                 }
1342
1343         }
1344         return ret;
1345 }
1346
1347 /**
1348  *      velocity_iph_realign    -       IP header alignment
1349  *      @vptr: velocity we are handling
1350  *      @skb: network layer packet buffer
1351  *      @pkt_size: received data size
1352  *
1353  *      Align IP header on a 2 bytes boundary. This behavior can be
1354  *      configured by the user.
1355  */
1356 static inline void velocity_iph_realign(struct velocity_info *vptr,
1357                                         struct sk_buff *skb, int pkt_size)
1358 {
1359         /* FIXME - memmove ? */
1360         if (vptr->flags & VELOCITY_FLAGS_IP_ALIGN) {
1361                 int i;
1362
1363                 for (i = pkt_size; i >= 0; i--)
1364                         *(skb->data + i + 2) = *(skb->data + i);
1365                 skb_reserve(skb, 2);
1366         }
1367 }
1368
1369 /**
1370  *      velocity_receive_frame  -       received packet processor
1371  *      @vptr: velocity we are handling
1372  *      @idx: ring index
1373  *
1374  *      A packet has arrived. We process the packet and if appropriate
1375  *      pass the frame up the network stack
1376  */
1377
1378 static int velocity_receive_frame(struct velocity_info *vptr, int idx)
1379 {
1380         void (*pci_action)(struct pci_dev *, dma_addr_t, size_t, int);
1381         struct net_device_stats *stats = &vptr->stats;
1382         struct velocity_rd_info *rd_info = &(vptr->rd_info[idx]);
1383         struct rx_desc *rd = &(vptr->rd_ring[idx]);
1384         int pkt_len = rd->rdesc0.len;
1385         struct sk_buff *skb;
1386
1387         if (rd->rdesc0.RSR & (RSR_STP | RSR_EDP)) {
1388                 VELOCITY_PRT(MSG_LEVEL_VERBOSE, KERN_ERR " %s : the received frame span multple RDs.\n", vptr->dev->name);
1389                 stats->rx_length_errors++;
1390                 return -EINVAL;
1391         }
1392
1393         if (rd->rdesc0.RSR & RSR_MAR)
1394                 vptr->stats.multicast++;
1395
1396         skb = rd_info->skb;
1397         skb->dev = vptr->dev;
1398
1399         pci_dma_sync_single_for_cpu(vptr->pdev, rd_info->skb_dma,
1400                                     vptr->rx_buf_sz, PCI_DMA_FROMDEVICE);
1401
1402         /*
1403          *      Drop frame not meeting IEEE 802.3
1404          */
1405
1406         if (vptr->flags & VELOCITY_FLAGS_VAL_PKT_LEN) {
1407                 if (rd->rdesc0.RSR & RSR_RL) {
1408                         stats->rx_length_errors++;
1409                         return -EINVAL;
1410                 }
1411         }
1412
1413         pci_action = pci_dma_sync_single_for_device;
1414
1415         velocity_rx_csum(rd, skb);
1416
1417         if (velocity_rx_copy(&skb, pkt_len, vptr) < 0) {
1418                 velocity_iph_realign(vptr, skb, pkt_len);
1419                 pci_action = pci_unmap_single;
1420                 rd_info->skb = NULL;
1421         }
1422
1423         pci_action(vptr->pdev, rd_info->skb_dma, vptr->rx_buf_sz,
1424                    PCI_DMA_FROMDEVICE);
1425
1426         skb_put(skb, pkt_len - 4);
1427         skb->protocol = eth_type_trans(skb, skb->dev);
1428
1429         stats->rx_bytes += pkt_len;
1430         netif_rx(skb);
1431
1432         return 0;
1433 }
1434
1435 /**
1436  *      velocity_alloc_rx_buf   -       allocate aligned receive buffer
1437  *      @vptr: velocity
1438  *      @idx: ring index
1439  *
1440  *      Allocate a new full sized buffer for the reception of a frame and
1441  *      map it into PCI space for the hardware to use. The hardware
1442  *      requires *64* byte alignment of the buffer which makes life
1443  *      less fun than would be ideal.
1444  */
1445
1446 static int velocity_alloc_rx_buf(struct velocity_info *vptr, int idx)
1447 {
1448         struct rx_desc *rd = &(vptr->rd_ring[idx]);
1449         struct velocity_rd_info *rd_info = &(vptr->rd_info[idx]);
1450
1451         rd_info->skb = dev_alloc_skb(vptr->rx_buf_sz + 64);
1452         if (rd_info->skb == NULL)
1453                 return -ENOMEM;
1454
1455         /*
1456          *      Do the gymnastics to get the buffer head for data at
1457          *      64byte alignment.
1458          */
1459         skb_reserve(rd_info->skb, (unsigned long) rd_info->skb->data & 63);
1460         rd_info->skb->dev = vptr->dev;
1461         rd_info->skb_dma = pci_map_single(vptr->pdev, rd_info->skb->data, vptr->rx_buf_sz, PCI_DMA_FROMDEVICE);
1462
1463         /*
1464          *      Fill in the descriptor to match
1465          */
1466
1467         *((u32 *) & (rd->rdesc0)) = 0;
1468         rd->len = cpu_to_le32(vptr->rx_buf_sz);
1469         rd->inten = 1;
1470         rd->pa_low = cpu_to_le32(rd_info->skb_dma);
1471         rd->pa_high = 0;
1472         return 0;
1473 }
1474
1475 /**
1476  *      tx_srv          -       transmit interrupt service
1477  *      @vptr; Velocity
1478  *      @status:
1479  *
1480  *      Scan the queues looking for transmitted packets that
1481  *      we can complete and clean up. Update any statistics as
1482  *      neccessary/
1483  */
1484
1485 static int velocity_tx_srv(struct velocity_info *vptr, u32 status)
1486 {
1487         struct tx_desc *td;
1488         int qnum;
1489         int full = 0;
1490         int idx;
1491         int works = 0;
1492         struct velocity_td_info *tdinfo;
1493         struct net_device_stats *stats = &vptr->stats;
1494
1495         for (qnum = 0; qnum < vptr->num_txq; qnum++) {
1496                 for (idx = vptr->td_tail[qnum]; vptr->td_used[qnum] > 0;
1497                         idx = (idx + 1) % vptr->options.numtx) {
1498
1499                         /*
1500                          *      Get Tx Descriptor
1501                          */
1502                         td = &(vptr->td_rings[qnum][idx]);
1503                         tdinfo = &(vptr->td_infos[qnum][idx]);
1504
1505                         if (td->tdesc0.owner == OWNED_BY_NIC)
1506                                 break;
1507
1508                         if ((works++ > 15))
1509                                 break;
1510
1511                         if (td->tdesc0.TSR & TSR0_TERR) {
1512                                 stats->tx_errors++;
1513                                 stats->tx_dropped++;
1514                                 if (td->tdesc0.TSR & TSR0_CDH)
1515                                         stats->tx_heartbeat_errors++;
1516                                 if (td->tdesc0.TSR & TSR0_CRS)
1517                                         stats->tx_carrier_errors++;
1518                                 if (td->tdesc0.TSR & TSR0_ABT)
1519                                         stats->tx_aborted_errors++;
1520                                 if (td->tdesc0.TSR & TSR0_OWC)
1521                                         stats->tx_window_errors++;
1522                         } else {
1523                                 stats->tx_packets++;
1524                                 stats->tx_bytes += tdinfo->skb->len;
1525                         }
1526                         velocity_free_tx_buf(vptr, tdinfo);
1527                         vptr->td_used[qnum]--;
1528                 }
1529                 vptr->td_tail[qnum] = idx;
1530
1531                 if (AVAIL_TD(vptr, qnum) < 1) {
1532                         full = 1;
1533                 }
1534         }
1535         /*
1536          *      Look to see if we should kick the transmit network
1537          *      layer for more work.
1538          */
1539         if (netif_queue_stopped(vptr->dev) && (full == 0)
1540             && (!(vptr->mii_status & VELOCITY_LINK_FAIL))) {
1541                 netif_wake_queue(vptr->dev);
1542         }
1543         return works;
1544 }
1545
1546 /**
1547  *      velocity_print_link_status      -       link status reporting
1548  *      @vptr: velocity to report on
1549  *
1550  *      Turn the link status of the velocity card into a kernel log
1551  *      description of the new link state, detailing speed and duplex
1552  *      status
1553  */
1554
1555 static void velocity_print_link_status(struct velocity_info *vptr)
1556 {
1557
1558         if (vptr->mii_status & VELOCITY_LINK_FAIL) {
1559                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_NOTICE "%s: failed to detect cable link\n", vptr->dev->name);
1560         } else if (vptr->options.spd_dpx == SPD_DPX_AUTO) {
1561                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_NOTICE "%s: Link autonegation", vptr->dev->name);
1562
1563                 if (vptr->mii_status & VELOCITY_SPEED_1000)
1564                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 1000M bps");
1565                 else if (vptr->mii_status & VELOCITY_SPEED_100)
1566                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 100M bps");
1567                 else
1568                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 10M bps");
1569
1570                 if (vptr->mii_status & VELOCITY_DUPLEX_FULL)
1571                         VELOCITY_PRT(MSG_LEVEL_INFO, " full duplex\n");
1572                 else
1573                         VELOCITY_PRT(MSG_LEVEL_INFO, " half duplex\n");
1574         } else {
1575                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_NOTICE "%s: Link forced", vptr->dev->name);
1576                 switch (vptr->options.spd_dpx) {
1577                 case SPD_DPX_100_HALF:
1578                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 100M bps half duplex\n");
1579                         break;
1580                 case SPD_DPX_100_FULL:
1581                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 100M bps full duplex\n");
1582                         break;
1583                 case SPD_DPX_10_HALF:
1584                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 10M bps half duplex\n");
1585                         break;
1586                 case SPD_DPX_10_FULL:
1587                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 10M bps full duplex\n");
1588                         break;
1589                 default:
1590                         break;
1591                 }
1592         }
1593 }
1594
1595 /**
1596  *      velocity_error  -       handle error from controller
1597  *      @vptr: velocity
1598  *      @status: card status
1599  *
1600  *      Process an error report from the hardware and attempt to recover
1601  *      the card itself. At the moment we cannot recover from some
1602  *      theoretically impossible errors but this could be fixed using
1603  *      the pci_device_failed logic to bounce the hardware
1604  *
1605  */
1606
1607 static void velocity_error(struct velocity_info *vptr, int status)
1608 {
1609
1610         if (status & ISR_TXSTLI) {
1611                 struct mac_regs __iomem * regs = vptr->mac_regs;
1612
1613                 printk(KERN_ERR "TD structure errror TDindex=%hx\n", readw(&regs->TDIdx[0]));
1614                 BYTE_REG_BITS_ON(TXESR_TDSTR, &regs->TXESR);
1615                 writew(TRDCSR_RUN, &regs->TDCSRClr);
1616                 netif_stop_queue(vptr->dev);
1617
1618                 /* FIXME: port over the pci_device_failed code and use it
1619                    here */
1620         }
1621
1622         if (status & ISR_SRCI) {
1623                 struct mac_regs __iomem * regs = vptr->mac_regs;
1624                 int linked;
1625
1626                 if (vptr->options.spd_dpx == SPD_DPX_AUTO) {
1627                         vptr->mii_status = check_connection_type(regs);
1628
1629                         /*
1630                          *      If it is a 3119, disable frame bursting in
1631                          *      halfduplex mode and enable it in fullduplex
1632                          *       mode
1633                          */
1634                         if (vptr->rev_id < REV_ID_VT3216_A0) {
1635                                 if (vptr->mii_status | VELOCITY_DUPLEX_FULL)
1636                                         BYTE_REG_BITS_ON(TCR_TB2BDIS, &regs->TCR);
1637                                 else
1638                                         BYTE_REG_BITS_OFF(TCR_TB2BDIS, &regs->TCR);
1639                         }
1640                         /*
1641                          *      Only enable CD heart beat counter in 10HD mode
1642                          */
1643                         if (!(vptr->mii_status & VELOCITY_DUPLEX_FULL) && (vptr->mii_status & VELOCITY_SPEED_10)) {
1644                                 BYTE_REG_BITS_OFF(TESTCFG_HBDIS, &regs->TESTCFG);
1645                         } else {
1646                                 BYTE_REG_BITS_ON(TESTCFG_HBDIS, &regs->TESTCFG);
1647                         }
1648                 }
1649                 /*
1650                  *      Get link status from PHYSR0
1651                  */
1652                 linked = readb(&regs->PHYSR0) & PHYSR0_LINKGD;
1653
1654                 if (linked) {
1655                         vptr->mii_status &= ~VELOCITY_LINK_FAIL;
1656                         netif_carrier_on(vptr->dev);
1657                 } else {
1658                         vptr->mii_status |= VELOCITY_LINK_FAIL;
1659                         netif_carrier_off(vptr->dev);
1660                 }
1661
1662                 velocity_print_link_status(vptr);
1663                 enable_flow_control_ability(vptr);
1664
1665                 /*
1666                  *      Re-enable auto-polling because SRCI will disable
1667                  *      auto-polling
1668                  */
1669
1670                 enable_mii_autopoll(regs);
1671
1672                 if (vptr->mii_status & VELOCITY_LINK_FAIL)
1673                         netif_stop_queue(vptr->dev);
1674                 else
1675                         netif_wake_queue(vptr->dev);
1676
1677         };
1678         if (status & ISR_MIBFI)
1679                 velocity_update_hw_mibs(vptr);
1680         if (status & ISR_LSTEI)
1681                 mac_rx_queue_wake(vptr->mac_regs);
1682 }
1683
1684 /**
1685  *      velocity_free_tx_buf    -       free transmit buffer
1686  *      @vptr: velocity
1687  *      @tdinfo: buffer
1688  *
1689  *      Release an transmit buffer. If the buffer was preallocated then
1690  *      recycle it, if not then unmap the buffer.
1691  */
1692
1693 static void velocity_free_tx_buf(struct velocity_info *vptr, struct velocity_td_info *tdinfo)
1694 {
1695         struct sk_buff *skb = tdinfo->skb;
1696         int i;
1697
1698         /*
1699          *      Don't unmap the pre-allocated tx_bufs
1700          */
1701         if (tdinfo->skb_dma && (tdinfo->skb_dma[0] != tdinfo->buf_dma)) {
1702
1703                 for (i = 0; i < tdinfo->nskb_dma; i++) {
1704 #ifdef VELOCITY_ZERO_COPY_SUPPORT
1705                         pci_unmap_single(vptr->pdev, tdinfo->skb_dma[i], td->tdesc1.len, PCI_DMA_TODEVICE);
1706 #else
1707                         pci_unmap_single(vptr->pdev, tdinfo->skb_dma[i], skb->len, PCI_DMA_TODEVICE);
1708 #endif
1709                         tdinfo->skb_dma[i] = 0;
1710                 }
1711         }
1712         dev_kfree_skb_irq(skb);
1713         tdinfo->skb = NULL;
1714 }
1715
1716 /**
1717  *      velocity_open           -       interface activation callback
1718  *      @dev: network layer device to open
1719  *
1720  *      Called when the network layer brings the interface up. Returns
1721  *      a negative posix error code on failure, or zero on success.
1722  *
1723  *      All the ring allocation and set up is done on open for this
1724  *      adapter to minimise memory usage when inactive
1725  */
1726
1727 static int velocity_open(struct net_device *dev)
1728 {
1729         struct velocity_info *vptr = netdev_priv(dev);
1730         int ret;
1731
1732         vptr->rx_buf_sz = (dev->mtu <= 1504 ? PKT_BUF_SZ : dev->mtu + 32);
1733
1734         ret = velocity_init_rings(vptr);
1735         if (ret < 0)
1736                 goto out;
1737
1738         ret = velocity_init_rd_ring(vptr);
1739         if (ret < 0)
1740                 goto err_free_desc_rings;
1741
1742         ret = velocity_init_td_ring(vptr);
1743         if (ret < 0)
1744                 goto err_free_rd_ring;
1745
1746         /* Ensure chip is running */
1747         pci_set_power_state(vptr->pdev, PCI_D0);
1748
1749         velocity_init_registers(vptr, VELOCITY_INIT_COLD);
1750
1751         ret = request_irq(vptr->pdev->irq, &velocity_intr, IRQF_SHARED,
1752                           dev->name, dev);
1753         if (ret < 0) {
1754                 /* Power down the chip */
1755                 pci_set_power_state(vptr->pdev, PCI_D3hot);
1756                 goto err_free_td_ring;
1757         }
1758
1759         mac_enable_int(vptr->mac_regs);
1760         netif_start_queue(dev);
1761         vptr->flags |= VELOCITY_FLAGS_OPENED;
1762 out:
1763         return ret;
1764
1765 err_free_td_ring:
1766         velocity_free_td_ring(vptr);
1767 err_free_rd_ring:
1768         velocity_free_rd_ring(vptr);
1769 err_free_desc_rings:
1770         velocity_free_rings(vptr);
1771         goto out;
1772 }
1773
1774 /**
1775  *      velocity_change_mtu     -       MTU change callback
1776  *      @dev: network device
1777  *      @new_mtu: desired MTU
1778  *
1779  *      Handle requests from the networking layer for MTU change on
1780  *      this interface. It gets called on a change by the network layer.
1781  *      Return zero for success or negative posix error code.
1782  */
1783
1784 static int velocity_change_mtu(struct net_device *dev, int new_mtu)
1785 {
1786         struct velocity_info *vptr = netdev_priv(dev);
1787         unsigned long flags;
1788         int oldmtu = dev->mtu;
1789         int ret = 0;
1790
1791         if ((new_mtu < VELOCITY_MIN_MTU) || new_mtu > (VELOCITY_MAX_MTU)) {
1792                 VELOCITY_PRT(MSG_LEVEL_ERR, KERN_NOTICE "%s: Invalid MTU.\n",
1793                                 vptr->dev->name);
1794                 return -EINVAL;
1795         }
1796
1797         if (new_mtu != oldmtu) {
1798                 spin_lock_irqsave(&vptr->lock, flags);
1799
1800                 netif_stop_queue(dev);
1801                 velocity_shutdown(vptr);
1802
1803                 velocity_free_td_ring(vptr);
1804                 velocity_free_rd_ring(vptr);
1805
1806                 dev->mtu = new_mtu;
1807                 if (new_mtu > 8192)
1808                         vptr->rx_buf_sz = 9 * 1024;
1809                 else if (new_mtu > 4096)
1810                         vptr->rx_buf_sz = 8192;
1811                 else
1812                         vptr->rx_buf_sz = 4 * 1024;
1813
1814                 ret = velocity_init_rd_ring(vptr);
1815                 if (ret < 0)
1816                         goto out_unlock;
1817
1818                 ret = velocity_init_td_ring(vptr);
1819                 if (ret < 0)
1820                         goto out_unlock;
1821
1822                 velocity_init_registers(vptr, VELOCITY_INIT_COLD);
1823
1824                 mac_enable_int(vptr->mac_regs);
1825                 netif_start_queue(dev);
1826 out_unlock:
1827                 spin_unlock_irqrestore(&vptr->lock, flags);
1828         }
1829
1830         return ret;
1831 }
1832
1833 /**
1834  *      velocity_shutdown       -       shut down the chip
1835  *      @vptr: velocity to deactivate
1836  *
1837  *      Shuts down the internal operations of the velocity and
1838  *      disables interrupts, autopolling, transmit and receive
1839  */
1840
1841 static void velocity_shutdown(struct velocity_info *vptr)
1842 {
1843         struct mac_regs __iomem * regs = vptr->mac_regs;
1844         mac_disable_int(regs);
1845         writel(CR0_STOP, &regs->CR0Set);
1846         writew(0xFFFF, &regs->TDCSRClr);
1847         writeb(0xFF, &regs->RDCSRClr);
1848         safe_disable_mii_autopoll(regs);
1849         mac_clear_isr(regs);
1850 }
1851
1852 /**
1853  *      velocity_close          -       close adapter callback
1854  *      @dev: network device
1855  *
1856  *      Callback from the network layer when the velocity is being
1857  *      deactivated by the network layer
1858  */
1859
1860 static int velocity_close(struct net_device *dev)
1861 {
1862         struct velocity_info *vptr = netdev_priv(dev);
1863
1864         netif_stop_queue(dev);
1865         velocity_shutdown(vptr);
1866
1867         if (vptr->flags & VELOCITY_FLAGS_WOL_ENABLED)
1868                 velocity_get_ip(vptr);
1869         if (dev->irq != 0)
1870                 free_irq(dev->irq, dev);
1871
1872         /* Power down the chip */
1873         pci_set_power_state(vptr->pdev, PCI_D3hot);
1874
1875         /* Free the resources */
1876         velocity_free_td_ring(vptr);
1877         velocity_free_rd_ring(vptr);
1878         velocity_free_rings(vptr);
1879
1880         vptr->flags &= (~VELOCITY_FLAGS_OPENED);
1881         return 0;
1882 }
1883
1884 /**
1885  *      velocity_xmit           -       transmit packet callback
1886  *      @skb: buffer to transmit
1887  *      @dev: network device
1888  *
1889  *      Called by the networ layer to request a packet is queued to
1890  *      the velocity. Returns zero on success.
1891  */
1892
1893 static int velocity_xmit(struct sk_buff *skb, struct net_device *dev)
1894 {
1895         struct velocity_info *vptr = netdev_priv(dev);
1896         int qnum = 0;
1897         struct tx_desc *td_ptr;
1898         struct velocity_td_info *tdinfo;
1899         unsigned long flags;
1900         int index;
1901
1902         int pktlen = skb->len;
1903
1904 #ifdef VELOCITY_ZERO_COPY_SUPPORT
1905         if (skb_shinfo(skb)->nr_frags > 6 && __skb_linearize(skb)) {
1906                 kfree_skb(skb);
1907                 return 0;
1908         }
1909 #endif
1910
1911         spin_lock_irqsave(&vptr->lock, flags);
1912
1913         index = vptr->td_curr[qnum];
1914         td_ptr = &(vptr->td_rings[qnum][index]);
1915         tdinfo = &(vptr->td_infos[qnum][index]);
1916
1917         td_ptr->tdesc1.TCPLS = TCPLS_NORMAL;
1918         td_ptr->tdesc1.TCR = TCR0_TIC;
1919         td_ptr->td_buf[0].queue = 0;
1920
1921         /*
1922          *      Pad short frames.
1923          */
1924         if (pktlen < ETH_ZLEN) {
1925                 /* Cannot occur until ZC support */
1926                 pktlen = ETH_ZLEN;
1927                 memcpy(tdinfo->buf, skb->data, skb->len);
1928                 memset(tdinfo->buf + skb->len, 0, ETH_ZLEN - skb->len);
1929                 tdinfo->skb = skb;
1930                 tdinfo->skb_dma[0] = tdinfo->buf_dma;
1931                 td_ptr->tdesc0.pktsize = pktlen;
1932                 td_ptr->td_buf[0].pa_low = cpu_to_le32(tdinfo->skb_dma[0]);
1933                 td_ptr->td_buf[0].pa_high = 0;
1934                 td_ptr->td_buf[0].bufsize = td_ptr->tdesc0.pktsize;
1935                 tdinfo->nskb_dma = 1;
1936                 td_ptr->tdesc1.CMDZ = 2;
1937         } else
1938 #ifdef VELOCITY_ZERO_COPY_SUPPORT
1939         if (skb_shinfo(skb)->nr_frags > 0) {
1940                 int nfrags = skb_shinfo(skb)->nr_frags;
1941                 tdinfo->skb = skb;
1942                 if (nfrags > 6) {
1943                         memcpy(tdinfo->buf, skb->data, skb->len);
1944                         tdinfo->skb_dma[0] = tdinfo->buf_dma;
1945                         td_ptr->tdesc0.pktsize =
1946                         td_ptr->td_buf[0].pa_low = cpu_to_le32(tdinfo->skb_dma[0]);
1947                         td_ptr->td_buf[0].pa_high = 0;
1948                         td_ptr->td_buf[0].bufsize = td_ptr->tdesc0.pktsize;
1949                         tdinfo->nskb_dma = 1;
1950                         td_ptr->tdesc1.CMDZ = 2;
1951                 } else {
1952                         int i = 0;
1953                         tdinfo->nskb_dma = 0;
1954                         tdinfo->skb_dma[i] = pci_map_single(vptr->pdev, skb->data, skb->len - skb->data_len, PCI_DMA_TODEVICE);
1955
1956                         td_ptr->tdesc0.pktsize = pktlen;
1957
1958                         /* FIXME: support 48bit DMA later */
1959                         td_ptr->td_buf[i].pa_low = cpu_to_le32(tdinfo->skb_dma);
1960                         td_ptr->td_buf[i].pa_high = 0;
1961                         td_ptr->td_buf[i].bufsize = skb->len->skb->data_len;
1962
1963                         for (i = 0; i < nfrags; i++) {
1964                                 skb_frag_t *frag = &skb_shinfo(skb)->frags[i];
1965                                 void *addr = ((void *) page_address(frag->page + frag->page_offset));
1966
1967                                 tdinfo->skb_dma[i + 1] = pci_map_single(vptr->pdev, addr, frag->size, PCI_DMA_TODEVICE);
1968
1969                                 td_ptr->td_buf[i + 1].pa_low = cpu_to_le32(tdinfo->skb_dma[i + 1]);
1970                                 td_ptr->td_buf[i + 1].pa_high = 0;
1971                                 td_ptr->td_buf[i + 1].bufsize = frag->size;
1972                         }
1973                         tdinfo->nskb_dma = i - 1;
1974                         td_ptr->tdesc1.CMDZ = i;
1975                 }
1976
1977         } else
1978 #endif
1979         {
1980                 /*
1981                  *      Map the linear network buffer into PCI space and
1982                  *      add it to the transmit ring.
1983                  */
1984                 tdinfo->skb = skb;
1985                 tdinfo->skb_dma[0] = pci_map_single(vptr->pdev, skb->data, pktlen, PCI_DMA_TODEVICE);
1986                 td_ptr->tdesc0.pktsize = pktlen;
1987                 td_ptr->td_buf[0].pa_low = cpu_to_le32(tdinfo->skb_dma[0]);
1988                 td_ptr->td_buf[0].pa_high = 0;
1989                 td_ptr->td_buf[0].bufsize = td_ptr->tdesc0.pktsize;
1990                 tdinfo->nskb_dma = 1;
1991                 td_ptr->tdesc1.CMDZ = 2;
1992         }
1993
1994         if (vptr->flags & VELOCITY_FLAGS_TAGGING) {
1995                 td_ptr->tdesc1.pqinf.VID = (vptr->options.vid & 0xfff);
1996                 td_ptr->tdesc1.pqinf.priority = 0;
1997                 td_ptr->tdesc1.pqinf.CFI = 0;
1998                 td_ptr->tdesc1.TCR |= TCR0_VETAG;
1999         }
2000
2001         /*
2002          *      Handle hardware checksum
2003          */
2004         if ((vptr->flags & VELOCITY_FLAGS_TX_CSUM)
2005                                  && (skb->ip_summed == CHECKSUM_PARTIAL)) {
2006                 struct iphdr *ip = skb->nh.iph;
2007                 if (ip->protocol == IPPROTO_TCP)
2008                         td_ptr->tdesc1.TCR |= TCR0_TCPCK;
2009                 else if (ip->protocol == IPPROTO_UDP)
2010                         td_ptr->tdesc1.TCR |= (TCR0_UDPCK);
2011                 td_ptr->tdesc1.TCR |= TCR0_IPCK;
2012         }
2013         {
2014
2015                 int prev = index - 1;
2016
2017                 if (prev < 0)
2018                         prev = vptr->options.numtx - 1;
2019                 td_ptr->tdesc0.owner = OWNED_BY_NIC;
2020                 vptr->td_used[qnum]++;
2021                 vptr->td_curr[qnum] = (index + 1) % vptr->options.numtx;
2022
2023                 if (AVAIL_TD(vptr, qnum) < 1)
2024                         netif_stop_queue(dev);
2025
2026                 td_ptr = &(vptr->td_rings[qnum][prev]);
2027                 td_ptr->td_buf[0].queue = 1;
2028                 mac_tx_queue_wake(vptr->mac_regs, qnum);
2029         }
2030         dev->trans_start = jiffies;
2031         spin_unlock_irqrestore(&vptr->lock, flags);
2032         return 0;
2033 }
2034
2035 /**
2036  *      velocity_intr           -       interrupt callback
2037  *      @irq: interrupt number
2038  *      @dev_instance: interrupting device
2039  *
2040  *      Called whenever an interrupt is generated by the velocity
2041  *      adapter IRQ line. We may not be the source of the interrupt
2042  *      and need to identify initially if we are, and if not exit as
2043  *      efficiently as possible.
2044  */
2045
2046 static int velocity_intr(int irq, void *dev_instance)
2047 {
2048         struct net_device *dev = dev_instance;
2049         struct velocity_info *vptr = netdev_priv(dev);
2050         u32 isr_status;
2051         int max_count = 0;
2052
2053
2054         spin_lock(&vptr->lock);
2055         isr_status = mac_read_isr(vptr->mac_regs);
2056
2057         /* Not us ? */
2058         if (isr_status == 0) {
2059                 spin_unlock(&vptr->lock);
2060                 return IRQ_NONE;
2061         }
2062
2063         mac_disable_int(vptr->mac_regs);
2064
2065         /*
2066          *      Keep processing the ISR until we have completed
2067          *      processing and the isr_status becomes zero
2068          */
2069
2070         while (isr_status != 0) {
2071                 mac_write_isr(vptr->mac_regs, isr_status);
2072                 if (isr_status & (~(ISR_PRXI | ISR_PPRXI | ISR_PTXI | ISR_PPTXI)))
2073                         velocity_error(vptr, isr_status);
2074                 if (isr_status & (ISR_PRXI | ISR_PPRXI))
2075                         max_count += velocity_rx_srv(vptr, isr_status);
2076                 if (isr_status & (ISR_PTXI | ISR_PPTXI))
2077                         max_count += velocity_tx_srv(vptr, isr_status);
2078                 isr_status = mac_read_isr(vptr->mac_regs);
2079                 if (max_count > vptr->options.int_works)
2080                 {
2081                         printk(KERN_WARNING "%s: excessive work at interrupt.\n",
2082                                 dev->name);
2083                         max_count = 0;
2084                 }
2085         }
2086         spin_unlock(&vptr->lock);
2087         mac_enable_int(vptr->mac_regs);
2088         return IRQ_HANDLED;
2089
2090 }
2091
2092
2093 /**
2094  *      velocity_set_multi      -       filter list change callback
2095  *      @dev: network device
2096  *
2097  *      Called by the network layer when the filter lists need to change
2098  *      for a velocity adapter. Reload the CAMs with the new address
2099  *      filter ruleset.
2100  */
2101
2102 static void velocity_set_multi(struct net_device *dev)
2103 {
2104         struct velocity_info *vptr = netdev_priv(dev);
2105         struct mac_regs __iomem * regs = vptr->mac_regs;
2106         u8 rx_mode;
2107         int i;
2108         struct dev_mc_list *mclist;
2109
2110         if (dev->flags & IFF_PROMISC) { /* Set promiscuous. */
2111                 writel(0xffffffff, &regs->MARCAM[0]);
2112                 writel(0xffffffff, &regs->MARCAM[4]);
2113                 rx_mode = (RCR_AM | RCR_AB | RCR_PROM);
2114         } else if ((dev->mc_count > vptr->multicast_limit)
2115                    || (dev->flags & IFF_ALLMULTI)) {
2116                 writel(0xffffffff, &regs->MARCAM[0]);
2117                 writel(0xffffffff, &regs->MARCAM[4]);
2118                 rx_mode = (RCR_AM | RCR_AB);
2119         } else {
2120                 int offset = MCAM_SIZE - vptr->multicast_limit;
2121                 mac_get_cam_mask(regs, vptr->mCAMmask, VELOCITY_MULTICAST_CAM);
2122
2123                 for (i = 0, mclist = dev->mc_list; mclist && i < dev->mc_count; i++, mclist = mclist->next) {
2124                         mac_set_cam(regs, i + offset, mclist->dmi_addr, VELOCITY_MULTICAST_CAM);
2125                         vptr->mCAMmask[(offset + i) / 8] |= 1 << ((offset + i) & 7);
2126                 }
2127
2128                 mac_set_cam_mask(regs, vptr->mCAMmask, VELOCITY_MULTICAST_CAM);
2129                 rx_mode = (RCR_AM | RCR_AB);
2130         }
2131         if (dev->mtu > 1500)
2132                 rx_mode |= RCR_AL;
2133
2134         BYTE_REG_BITS_ON(rx_mode, &regs->RCR);
2135
2136 }
2137
2138 /**
2139  *      velocity_get_status     -       statistics callback
2140  *      @dev: network device
2141  *
2142  *      Callback from the network layer to allow driver statistics
2143  *      to be resynchronized with hardware collected state. In the
2144  *      case of the velocity we need to pull the MIB counters from
2145  *      the hardware into the counters before letting the network
2146  *      layer display them.
2147  */
2148
2149 static struct net_device_stats *velocity_get_stats(struct net_device *dev)
2150 {
2151         struct velocity_info *vptr = netdev_priv(dev);
2152
2153         /* If the hardware is down, don't touch MII */
2154         if(!netif_running(dev))
2155                 return &vptr->stats;
2156
2157         spin_lock_irq(&vptr->lock);
2158         velocity_update_hw_mibs(vptr);
2159         spin_unlock_irq(&vptr->lock);
2160
2161         vptr->stats.rx_packets = vptr->mib_counter[HW_MIB_ifRxAllPkts];
2162         vptr->stats.rx_errors = vptr->mib_counter[HW_MIB_ifRxErrorPkts];
2163         vptr->stats.rx_length_errors = vptr->mib_counter[HW_MIB_ifInRangeLengthErrors];
2164
2165 //  unsigned long   rx_dropped;     /* no space in linux buffers    */
2166         vptr->stats.collisions = vptr->mib_counter[HW_MIB_ifTxEtherCollisions];
2167         /* detailed rx_errors: */
2168 //  unsigned long   rx_length_errors;
2169 //  unsigned long   rx_over_errors;     /* receiver ring buff overflow  */
2170         vptr->stats.rx_crc_errors = vptr->mib_counter[HW_MIB_ifRxPktCRCE];
2171 //  unsigned long   rx_frame_errors;    /* recv'd frame alignment error */
2172 //  unsigned long   rx_fifo_errors;     /* recv'r fifo overrun      */
2173 //  unsigned long   rx_missed_errors;   /* receiver missed packet   */
2174
2175         /* detailed tx_errors */
2176 //  unsigned long   tx_fifo_errors;
2177
2178         return &vptr->stats;
2179 }
2180
2181
2182 /**
2183  *      velocity_ioctl          -       ioctl entry point
2184  *      @dev: network device
2185  *      @rq: interface request ioctl
2186  *      @cmd: command code
2187  *
2188  *      Called when the user issues an ioctl request to the network
2189  *      device in question. The velocity interface supports MII.
2190  */
2191
2192 static int velocity_ioctl(struct net_device *dev, struct ifreq *rq, int cmd)
2193 {
2194         struct velocity_info *vptr = netdev_priv(dev);
2195         int ret;
2196
2197         /* If we are asked for information and the device is power
2198            saving then we need to bring the device back up to talk to it */
2199
2200         if (!netif_running(dev))
2201                 pci_set_power_state(vptr->pdev, PCI_D0);
2202
2203         switch (cmd) {
2204         case SIOCGMIIPHY:       /* Get address of MII PHY in use. */
2205         case SIOCGMIIREG:       /* Read MII PHY register. */
2206         case SIOCSMIIREG:       /* Write to MII PHY register. */
2207                 ret = velocity_mii_ioctl(dev, rq, cmd);
2208                 break;
2209
2210         default:
2211                 ret = -EOPNOTSUPP;
2212         }
2213         if (!netif_running(dev))
2214                 pci_set_power_state(vptr->pdev, PCI_D3hot);
2215
2216
2217         return ret;
2218 }
2219
2220 /*
2221  *      Definition for our device driver. The PCI layer interface
2222  *      uses this to handle all our card discover and plugging
2223  */
2224
2225 static struct pci_driver velocity_driver = {
2226       .name     = VELOCITY_NAME,
2227       .id_table = velocity_id_table,
2228       .probe    = velocity_found1,
2229       .remove   = __devexit_p(velocity_remove1),
2230 #ifdef CONFIG_PM
2231       .suspend  = velocity_suspend,
2232       .resume   = velocity_resume,
2233 #endif
2234 };
2235
2236 /**
2237  *      velocity_init_module    -       load time function
2238  *
2239  *      Called when the velocity module is loaded. The PCI driver
2240  *      is registered with the PCI layer, and in turn will call
2241  *      the probe functions for each velocity adapter installed
2242  *      in the system.
2243  */
2244
2245 static int __init velocity_init_module(void)
2246 {
2247         int ret;
2248
2249         velocity_register_notifier();
2250         ret = pci_register_driver(&velocity_driver);
2251         if (ret < 0)
2252                 velocity_unregister_notifier();
2253         return ret;
2254 }
2255
2256 /**
2257  *      velocity_cleanup        -       module unload
2258  *
2259  *      When the velocity hardware is unloaded this function is called.
2260  *      It will clean up the notifiers and the unregister the PCI
2261  *      driver interface for this hardware. This in turn cleans up
2262  *      all discovered interfaces before returning from the function
2263  */
2264
2265 static void __exit velocity_cleanup_module(void)
2266 {
2267         velocity_unregister_notifier();
2268         pci_unregister_driver(&velocity_driver);
2269 }
2270
2271 module_init(velocity_init_module);
2272 module_exit(velocity_cleanup_module);
2273
2274
2275 /*
2276  * MII access , media link mode setting functions
2277  */
2278
2279
2280 /**
2281  *      mii_init        -       set up MII
2282  *      @vptr: velocity adapter
2283  *      @mii_status:  links tatus
2284  *
2285  *      Set up the PHY for the current link state.
2286  */
2287
2288 static void mii_init(struct velocity_info *vptr, u32 mii_status)
2289 {
2290         u16 BMCR;
2291
2292         switch (PHYID_GET_PHY_ID(vptr->phy_id)) {
2293         case PHYID_CICADA_CS8201:
2294                 /*
2295                  *      Reset to hardware default
2296                  */
2297                 MII_REG_BITS_OFF((ANAR_ASMDIR | ANAR_PAUSE), MII_REG_ANAR, vptr->mac_regs);
2298                 /*
2299                  *      Turn on ECHODIS bit in NWay-forced full mode and turn it
2300                  *      off it in NWay-forced half mode for NWay-forced v.s.
2301                  *      legacy-forced issue.
2302                  */
2303                 if (vptr->mii_status & VELOCITY_DUPLEX_FULL)
2304                         MII_REG_BITS_ON(TCSR_ECHODIS, MII_REG_TCSR, vptr->mac_regs);
2305                 else
2306                         MII_REG_BITS_OFF(TCSR_ECHODIS, MII_REG_TCSR, vptr->mac_regs);
2307                 /*
2308                  *      Turn on Link/Activity LED enable bit for CIS8201
2309                  */
2310                 MII_REG_BITS_ON(PLED_LALBE, MII_REG_PLED, vptr->mac_regs);
2311                 break;
2312         case PHYID_VT3216_32BIT:
2313         case PHYID_VT3216_64BIT:
2314                 /*
2315                  *      Reset to hardware default
2316                  */
2317                 MII_REG_BITS_ON((ANAR_ASMDIR | ANAR_PAUSE), MII_REG_ANAR, vptr->mac_regs);
2318                 /*
2319                  *      Turn on ECHODIS bit in NWay-forced full mode and turn it
2320                  *      off it in NWay-forced half mode for NWay-forced v.s.
2321                  *      legacy-forced issue
2322                  */
2323                 if (vptr->mii_status & VELOCITY_DUPLEX_FULL)
2324                         MII_REG_BITS_ON(TCSR_ECHODIS, MII_REG_TCSR, vptr->mac_regs);
2325                 else
2326                         MII_REG_BITS_OFF(TCSR_ECHODIS, MII_REG_TCSR, vptr->mac_regs);
2327                 break;
2328
2329         case PHYID_MARVELL_1000:
2330         case PHYID_MARVELL_1000S:
2331                 /*
2332                  *      Assert CRS on Transmit
2333                  */
2334                 MII_REG_BITS_ON(PSCR_ACRSTX, MII_REG_PSCR, vptr->mac_regs);
2335                 /*
2336                  *      Reset to hardware default
2337                  */
2338                 MII_REG_BITS_ON((ANAR_ASMDIR | ANAR_PAUSE), MII_REG_ANAR, vptr->mac_regs);
2339                 break;
2340         default:
2341                 ;
2342         }
2343         velocity_mii_read(vptr->mac_regs, MII_REG_BMCR, &BMCR);
2344         if (BMCR & BMCR_ISO) {
2345                 BMCR &= ~BMCR_ISO;
2346                 velocity_mii_write(vptr->mac_regs, MII_REG_BMCR, BMCR);
2347         }
2348 }
2349
2350 /**
2351  *      safe_disable_mii_autopoll       -       autopoll off
2352  *      @regs: velocity registers
2353  *
2354  *      Turn off the autopoll and wait for it to disable on the chip
2355  */
2356
2357 static void safe_disable_mii_autopoll(struct mac_regs __iomem * regs)
2358 {
2359         u16 ww;
2360
2361         /*  turn off MAUTO */
2362         writeb(0, &regs->MIICR);
2363         for (ww = 0; ww < W_MAX_TIMEOUT; ww++) {
2364                 udelay(1);
2365                 if (BYTE_REG_BITS_IS_ON(MIISR_MIDLE, &regs->MIISR))
2366                         break;
2367         }
2368 }
2369
2370 /**
2371  *      enable_mii_autopoll     -       turn on autopolling
2372  *      @regs: velocity registers
2373  *
2374  *      Enable the MII link status autopoll feature on the Velocity
2375  *      hardware. Wait for it to enable.
2376  */
2377
2378 static void enable_mii_autopoll(struct mac_regs __iomem * regs)
2379 {
2380         int ii;
2381
2382         writeb(0, &(regs->MIICR));
2383         writeb(MIIADR_SWMPL, &regs->MIIADR);
2384
2385         for (ii = 0; ii < W_MAX_TIMEOUT; ii++) {
2386                 udelay(1);
2387                 if (BYTE_REG_BITS_IS_ON(MIISR_MIDLE, &regs->MIISR))
2388                         break;
2389         }
2390
2391         writeb(MIICR_MAUTO, &regs->MIICR);
2392
2393         for (ii = 0; ii < W_MAX_TIMEOUT; ii++) {
2394                 udelay(1);
2395                 if (!BYTE_REG_BITS_IS_ON(MIISR_MIDLE, &regs->MIISR))
2396                         break;
2397         }
2398
2399 }
2400
2401 /**
2402  *      velocity_mii_read       -       read MII data
2403  *      @regs: velocity registers
2404  *      @index: MII register index
2405  *      @data: buffer for received data
2406  *
2407  *      Perform a single read of an MII 16bit register. Returns zero
2408  *      on success or -ETIMEDOUT if the PHY did not respond.
2409  */
2410
2411 static int velocity_mii_read(struct mac_regs __iomem *regs, u8 index, u16 *data)
2412 {
2413         u16 ww;
2414
2415         /*
2416          *      Disable MIICR_MAUTO, so that mii addr can be set normally
2417          */
2418         safe_disable_mii_autopoll(regs);
2419
2420         writeb(index, &regs->MIIADR);
2421
2422         BYTE_REG_BITS_ON(MIICR_RCMD, &regs->MIICR);
2423
2424         for (ww = 0; ww < W_MAX_TIMEOUT; ww++) {
2425                 if (!(readb(&regs->MIICR) & MIICR_RCMD))
2426                         break;
2427         }
2428
2429         *data = readw(&regs->MIIDATA);
2430
2431         enable_mii_autopoll(regs);
2432         if (ww == W_MAX_TIMEOUT)
2433                 return -ETIMEDOUT;
2434         return 0;
2435 }
2436
2437 /**
2438  *      velocity_mii_write      -       write MII data
2439  *      @regs: velocity registers
2440  *      @index: MII register index
2441  *      @data: 16bit data for the MII register
2442  *
2443  *      Perform a single write to an MII 16bit register. Returns zero
2444  *      on success or -ETIMEDOUT if the PHY did not respond.
2445  */
2446
2447 static int velocity_mii_write(struct mac_regs __iomem *regs, u8 mii_addr, u16 data)
2448 {
2449         u16 ww;
2450
2451         /*
2452          *      Disable MIICR_MAUTO, so that mii addr can be set normally
2453          */
2454         safe_disable_mii_autopoll(regs);
2455
2456         /* MII reg offset */
2457         writeb(mii_addr, &regs->MIIADR);
2458         /* set MII data */
2459         writew(data, &regs->MIIDATA);
2460
2461         /* turn on MIICR_WCMD */
2462         BYTE_REG_BITS_ON(MIICR_WCMD, &regs->MIICR);
2463
2464         /* W_MAX_TIMEOUT is the timeout period */
2465         for (ww = 0; ww < W_MAX_TIMEOUT; ww++) {
2466                 udelay(5);
2467                 if (!(readb(&regs->MIICR) & MIICR_WCMD))
2468                         break;
2469         }
2470         enable_mii_autopoll(regs);
2471
2472         if (ww == W_MAX_TIMEOUT)
2473                 return -ETIMEDOUT;
2474         return 0;
2475 }
2476
2477 /**
2478  *      velocity_get_opt_media_mode     -       get media selection
2479  *      @vptr: velocity adapter
2480  *
2481  *      Get the media mode stored in EEPROM or module options and load
2482  *      mii_status accordingly. The requested link state information
2483  *      is also returned.
2484  */
2485
2486 static u32 velocity_get_opt_media_mode(struct velocity_info *vptr)
2487 {
2488         u32 status = 0;
2489
2490         switch (vptr->options.spd_dpx) {
2491         case SPD_DPX_AUTO:
2492                 status = VELOCITY_AUTONEG_ENABLE;
2493                 break;
2494         case SPD_DPX_100_FULL:
2495                 status = VELOCITY_SPEED_100 | VELOCITY_DUPLEX_FULL;
2496                 break;
2497         case SPD_DPX_10_FULL:
2498                 status = VELOCITY_SPEED_10 | VELOCITY_DUPLEX_FULL;
2499                 break;
2500         case SPD_DPX_100_HALF:
2501                 status = VELOCITY_SPEED_100;
2502                 break;
2503         case SPD_DPX_10_HALF:
2504                 status = VELOCITY_SPEED_10;
2505                 break;
2506         }
2507         vptr->mii_status = status;
2508         return status;
2509 }
2510
2511 /**
2512  *      mii_set_auto_on         -       autonegotiate on
2513  *      @vptr: velocity
2514  *
2515  *      Enable autonegotation on this interface
2516  */
2517
2518 static void mii_set_auto_on(struct velocity_info *vptr)
2519 {
2520         if (MII_REG_BITS_IS_ON(BMCR_AUTO, MII_REG_BMCR, vptr->mac_regs))
2521                 MII_REG_BITS_ON(BMCR_REAUTO, MII_REG_BMCR, vptr->mac_regs);
2522         else
2523                 MII_REG_BITS_ON(BMCR_AUTO, MII_REG_BMCR, vptr->mac_regs);
2524 }
2525
2526
2527 /*
2528 static void mii_set_auto_off(struct velocity_info * vptr)
2529 {
2530     MII_REG_BITS_OFF(BMCR_AUTO, MII_REG_BMCR, vptr->mac_regs);
2531 }
2532 */
2533
2534 /**
2535  *      set_mii_flow_control    -       flow control setup
2536  *      @vptr: velocity interface
2537  *
2538  *      Set up the flow control on this interface according to
2539  *      the supplied user/eeprom options.
2540  */
2541
2542 static void set_mii_flow_control(struct velocity_info *vptr)
2543 {
2544         /*Enable or Disable PAUSE in ANAR */
2545         switch (vptr->options.flow_cntl) {
2546         case FLOW_CNTL_TX:
2547                 MII_REG_BITS_OFF(ANAR_PAUSE, MII_REG_ANAR, vptr->mac_regs);
2548                 MII_REG_BITS_ON(ANAR_ASMDIR, MII_REG_ANAR, vptr->mac_regs);
2549                 break;
2550
2551         case FLOW_CNTL_RX:
2552                 MII_REG_BITS_ON(ANAR_PAUSE, MII_REG_ANAR, vptr->mac_regs);
2553                 MII_REG_BITS_ON(ANAR_ASMDIR, MII_REG_ANAR, vptr->mac_regs);
2554                 break;
2555
2556         case FLOW_CNTL_TX_RX:
2557                 MII_REG_BITS_ON(ANAR_PAUSE, MII_REG_ANAR, vptr->mac_regs);
2558                 MII_REG_BITS_ON(ANAR_ASMDIR, MII_REG_ANAR, vptr->mac_regs);
2559                 break;
2560
2561         case FLOW_CNTL_DISABLE:
2562                 MII_REG_BITS_OFF(ANAR_PAUSE, MII_REG_ANAR, vptr->mac_regs);
2563                 MII_REG_BITS_OFF(ANAR_ASMDIR, MII_REG_ANAR, vptr->mac_regs);
2564                 break;
2565         default:
2566                 break;
2567         }
2568 }
2569
2570 /**
2571  *      velocity_set_media_mode         -       set media mode
2572  *      @mii_status: old MII link state
2573  *
2574  *      Check the media link state and configure the flow control
2575  *      PHY and also velocity hardware setup accordingly. In particular
2576  *      we need to set up CD polling and frame bursting.
2577  */
2578
2579 static int velocity_set_media_mode(struct velocity_info *vptr, u32 mii_status)
2580 {
2581         u32 curr_status;
2582         struct mac_regs __iomem * regs = vptr->mac_regs;
2583
2584         vptr->mii_status = mii_check_media_mode(vptr->mac_regs);
2585         curr_status = vptr->mii_status & (~VELOCITY_LINK_FAIL);
2586
2587         /* Set mii link status */
2588         set_mii_flow_control(vptr);
2589
2590         /*
2591            Check if new status is consisent with current status
2592            if (((mii_status & curr_status) & VELOCITY_AUTONEG_ENABLE)
2593            || (mii_status==curr_status)) {
2594            vptr->mii_status=mii_check_media_mode(vptr->mac_regs);
2595            vptr->mii_status=check_connection_type(vptr->mac_regs);
2596            VELOCITY_PRT(MSG_LEVEL_INFO, "Velocity link no change\n");
2597            return 0;
2598            }
2599          */
2600
2601         if (PHYID_GET_PHY_ID(vptr->phy_id) == PHYID_CICADA_CS8201) {
2602                 MII_REG_BITS_ON(AUXCR_MDPPS, MII_REG_AUXCR, vptr->mac_regs);
2603         }
2604
2605         /*
2606          *      If connection type is AUTO
2607          */
2608         if (mii_status & VELOCITY_AUTONEG_ENABLE) {
2609                 VELOCITY_PRT(MSG_LEVEL_INFO, "Velocity is AUTO mode\n");
2610                 /* clear force MAC mode bit */
2611                 BYTE_REG_BITS_OFF(CHIPGCR_FCMODE, &regs->CHIPGCR);
2612                 /* set duplex mode of MAC according to duplex mode of MII */
2613                 MII_REG_BITS_ON(ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10, MII_REG_ANAR, vptr->mac_regs);
2614                 MII_REG_BITS_ON(G1000CR_1000FD | G1000CR_1000, MII_REG_G1000CR, vptr->mac_regs);
2615                 MII_REG_BITS_ON(BMCR_SPEED1G, MII_REG_BMCR, vptr->mac_regs);
2616
2617                 /* enable AUTO-NEGO mode */
2618                 mii_set_auto_on(vptr);
2619         } else {
2620                 u16 ANAR;
2621                 u8 CHIPGCR;
2622
2623                 /*
2624                  * 1. if it's 3119, disable frame bursting in halfduplex mode
2625                  *    and enable it in fullduplex mode
2626                  * 2. set correct MII/GMII and half/full duplex mode in CHIPGCR
2627                  * 3. only enable CD heart beat counter in 10HD mode
2628                  */
2629
2630                 /* set force MAC mode bit */
2631                 BYTE_REG_BITS_ON(CHIPGCR_FCMODE, &regs->CHIPGCR);
2632
2633                 CHIPGCR = readb(&regs->CHIPGCR);
2634                 CHIPGCR &= ~CHIPGCR_FCGMII;
2635
2636                 if (mii_status & VELOCITY_DUPLEX_FULL) {
2637                         CHIPGCR |= CHIPGCR_FCFDX;
2638                         writeb(CHIPGCR, &regs->CHIPGCR);
2639                         VELOCITY_PRT(MSG_LEVEL_INFO, "set Velocity to forced full mode\n");
2640                         if (vptr->rev_id < REV_ID_VT3216_A0)
2641                                 BYTE_REG_BITS_OFF(TCR_TB2BDIS, &regs->TCR);
2642                 } else {
2643                         CHIPGCR &= ~CHIPGCR_FCFDX;
2644                         VELOCITY_PRT(MSG_LEVEL_INFO, "set Velocity to forced half mode\n");
2645                         writeb(CHIPGCR, &regs->CHIPGCR);
2646                         if (vptr->rev_id < REV_ID_VT3216_A0)
2647                                 BYTE_REG_BITS_ON(TCR_TB2BDIS, &regs->TCR);
2648                 }
2649
2650                 MII_REG_BITS_OFF(G1000CR_1000FD | G1000CR_1000, MII_REG_G1000CR, vptr->mac_regs);
2651
2652                 if (!(mii_status & VELOCITY_DUPLEX_FULL) && (mii_status & VELOCITY_SPEED_10)) {
2653                         BYTE_REG_BITS_OFF(TESTCFG_HBDIS, &regs->TESTCFG);
2654                 } else {
2655                         BYTE_REG_BITS_ON(TESTCFG_HBDIS, &regs->TESTCFG);
2656                 }
2657                 /* MII_REG_BITS_OFF(BMCR_SPEED1G, MII_REG_BMCR, vptr->mac_regs); */
2658                 velocity_mii_read(vptr->mac_regs, MII_REG_ANAR, &ANAR);
2659                 ANAR &= (~(ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10));
2660                 if (mii_status & VELOCITY_SPEED_100) {
2661                         if (mii_status & VELOCITY_DUPLEX_FULL)
2662                                 ANAR |= ANAR_TXFD;
2663                         else
2664                                 ANAR |= ANAR_TX;
2665                 } else {
2666                         if (mii_status & VELOCITY_DUPLEX_FULL)
2667                                 ANAR |= ANAR_10FD;
2668                         else
2669                                 ANAR |= ANAR_10;
2670                 }
2671                 velocity_mii_write(vptr->mac_regs, MII_REG_ANAR, ANAR);
2672                 /* enable AUTO-NEGO mode */
2673                 mii_set_auto_on(vptr);
2674                 /* MII_REG_BITS_ON(BMCR_AUTO, MII_REG_BMCR, vptr->mac_regs); */
2675         }
2676         /* vptr->mii_status=mii_check_media_mode(vptr->mac_regs); */
2677         /* vptr->mii_status=check_connection_type(vptr->mac_regs); */
2678         return VELOCITY_LINK_CHANGE;
2679 }
2680
2681 /**
2682  *      mii_check_media_mode    -       check media state
2683  *      @regs: velocity registers
2684  *
2685  *      Check the current MII status and determine the link status
2686  *      accordingly
2687  */
2688
2689 static u32 mii_check_media_mode(struct mac_regs __iomem * regs)
2690 {
2691         u32 status = 0;
2692         u16 ANAR;
2693
2694         if (!MII_REG_BITS_IS_ON(BMSR_LNK, MII_REG_BMSR, regs))
2695                 status |= VELOCITY_LINK_FAIL;
2696
2697         if (MII_REG_BITS_IS_ON(G1000CR_1000FD, MII_REG_G1000CR, regs))
2698                 status |= VELOCITY_SPEED_1000 | VELOCITY_DUPLEX_FULL;
2699         else if (MII_REG_BITS_IS_ON(G1000CR_1000, MII_REG_G1000CR, regs))
2700                 status |= (VELOCITY_SPEED_1000);
2701         else {
2702                 velocity_mii_read(regs, MII_REG_ANAR, &ANAR);
2703                 if (ANAR & ANAR_TXFD)
2704                         status |= (VELOCITY_SPEED_100 | VELOCITY_DUPLEX_FULL);
2705                 else if (ANAR & ANAR_TX)
2706                         status |= VELOCITY_SPEED_100;
2707                 else if (ANAR & ANAR_10FD)
2708                         status |= (VELOCITY_SPEED_10 | VELOCITY_DUPLEX_FULL);
2709                 else
2710                         status |= (VELOCITY_SPEED_10);
2711         }
2712
2713         if (MII_REG_BITS_IS_ON(BMCR_AUTO, MII_REG_BMCR, regs)) {
2714                 velocity_mii_read(regs, MII_REG_ANAR, &ANAR);
2715                 if ((ANAR & (ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10))
2716                     == (ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10)) {
2717                         if (MII_REG_BITS_IS_ON(G1000CR_1000 | G1000CR_1000FD, MII_REG_G1000CR, regs))
2718                                 status |= VELOCITY_AUTONEG_ENABLE;
2719                 }
2720         }
2721
2722         return status;
2723 }
2724
2725 static u32 check_connection_type(struct mac_regs __iomem * regs)
2726 {
2727         u32 status = 0;
2728         u8 PHYSR0;
2729         u16 ANAR;
2730         PHYSR0 = readb(&regs->PHYSR0);
2731
2732         /*
2733            if (!(PHYSR0 & PHYSR0_LINKGD))
2734            status|=VELOCITY_LINK_FAIL;
2735          */
2736
2737         if (PHYSR0 & PHYSR0_FDPX)
2738                 status |= VELOCITY_DUPLEX_FULL;
2739
2740         if (PHYSR0 & PHYSR0_SPDG)
2741                 status |= VELOCITY_SPEED_1000;
2742         else if (PHYSR0 & PHYSR0_SPD10)
2743                 status |= VELOCITY_SPEED_10;
2744         else
2745                 status |= VELOCITY_SPEED_100;
2746
2747         if (MII_REG_BITS_IS_ON(BMCR_AUTO, MII_REG_BMCR, regs)) {
2748                 velocity_mii_read(regs, MII_REG_ANAR, &ANAR);
2749                 if ((ANAR & (ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10))
2750                     == (ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10)) {
2751                         if (MII_REG_BITS_IS_ON(G1000CR_1000 | G1000CR_1000FD, MII_REG_G1000CR, regs))
2752                                 status |= VELOCITY_AUTONEG_ENABLE;
2753                 }
2754         }
2755
2756         return status;
2757 }
2758
2759 /**
2760  *      enable_flow_control_ability     -       flow control
2761  *      @vptr: veloity to configure
2762  *
2763  *      Set up flow control according to the flow control options
2764  *      determined by the eeprom/configuration.
2765  */
2766
2767 static void enable_flow_control_ability(struct velocity_info *vptr)
2768 {
2769
2770         struct mac_regs __iomem * regs = vptr->mac_regs;
2771
2772         switch (vptr->options.flow_cntl) {
2773
2774         case FLOW_CNTL_DEFAULT:
2775                 if (BYTE_REG_BITS_IS_ON(PHYSR0_RXFLC, &regs->PHYSR0))
2776                         writel(CR0_FDXRFCEN, &regs->CR0Set);
2777                 else
2778                         writel(CR0_FDXRFCEN, &regs->CR0Clr);
2779
2780                 if (BYTE_REG_BITS_IS_ON(PHYSR0_TXFLC, &regs->PHYSR0))
2781                         writel(CR0_FDXTFCEN, &regs->CR0Set);
2782                 else
2783                         writel(CR0_FDXTFCEN, &regs->CR0Clr);
2784                 break;
2785
2786         case FLOW_CNTL_TX:
2787                 writel(CR0_FDXTFCEN, &regs->CR0Set);
2788                 writel(CR0_FDXRFCEN, &regs->CR0Clr);
2789                 break;
2790
2791         case FLOW_CNTL_RX:
2792                 writel(CR0_FDXRFCEN, &regs->CR0Set);
2793                 writel(CR0_FDXTFCEN, &regs->CR0Clr);
2794                 break;
2795
2796         case FLOW_CNTL_TX_RX:
2797                 writel(CR0_FDXTFCEN, &regs->CR0Set);
2798                 writel(CR0_FDXRFCEN, &regs->CR0Set);
2799                 break;
2800
2801         case FLOW_CNTL_DISABLE:
2802                 writel(CR0_FDXRFCEN, &regs->CR0Clr);
2803                 writel(CR0_FDXTFCEN, &regs->CR0Clr);
2804                 break;
2805
2806         default:
2807                 break;
2808         }
2809
2810 }
2811
2812
2813 /**
2814  *      velocity_ethtool_up     -       pre hook for ethtool
2815  *      @dev: network device
2816  *
2817  *      Called before an ethtool operation. We need to make sure the
2818  *      chip is out of D3 state before we poke at it.
2819  */
2820
2821 static int velocity_ethtool_up(struct net_device *dev)
2822 {
2823         struct velocity_info *vptr = netdev_priv(dev);
2824         if (!netif_running(dev))
2825                 pci_set_power_state(vptr->pdev, PCI_D0);
2826         return 0;
2827 }
2828
2829 /**
2830  *      velocity_ethtool_down   -       post hook for ethtool
2831  *      @dev: network device
2832  *
2833  *      Called after an ethtool operation. Restore the chip back to D3
2834  *      state if it isn't running.
2835  */
2836
2837 static void velocity_ethtool_down(struct net_device *dev)
2838 {
2839         struct velocity_info *vptr = netdev_priv(dev);
2840         if (!netif_running(dev))
2841                 pci_set_power_state(vptr->pdev, PCI_D3hot);
2842 }
2843
2844 static int velocity_get_settings(struct net_device *dev, struct ethtool_cmd *cmd)
2845 {
2846         struct velocity_info *vptr = netdev_priv(dev);
2847         struct mac_regs __iomem * regs = vptr->mac_regs;
2848         u32 status;
2849         status = check_connection_type(vptr->mac_regs);
2850
2851         cmd->supported = SUPPORTED_TP |
2852                         SUPPORTED_Autoneg |
2853                         SUPPORTED_10baseT_Half |
2854                         SUPPORTED_10baseT_Full |
2855                         SUPPORTED_100baseT_Half |
2856                         SUPPORTED_100baseT_Full |
2857                         SUPPORTED_1000baseT_Half |
2858                         SUPPORTED_1000baseT_Full;
2859         if (status & VELOCITY_SPEED_1000)
2860                 cmd->speed = SPEED_1000;
2861         else if (status & VELOCITY_SPEED_100)
2862                 cmd->speed = SPEED_100;
2863         else
2864                 cmd->speed = SPEED_10;
2865         cmd->autoneg = (status & VELOCITY_AUTONEG_ENABLE) ? AUTONEG_ENABLE : AUTONEG_DISABLE;
2866         cmd->port = PORT_TP;
2867         cmd->transceiver = XCVR_INTERNAL;
2868         cmd->phy_address = readb(&regs->MIIADR) & 0x1F;
2869
2870         if (status & VELOCITY_DUPLEX_FULL)
2871                 cmd->duplex = DUPLEX_FULL;
2872         else
2873                 cmd->duplex = DUPLEX_HALF;
2874
2875         return 0;
2876 }
2877
2878 static int velocity_set_settings(struct net_device *dev, struct ethtool_cmd *cmd)
2879 {
2880         struct velocity_info *vptr = netdev_priv(dev);
2881         u32 curr_status;
2882         u32 new_status = 0;
2883         int ret = 0;
2884
2885         curr_status = check_connection_type(vptr->mac_regs);
2886         curr_status &= (~VELOCITY_LINK_FAIL);
2887
2888         new_status |= ((cmd->autoneg) ? VELOCITY_AUTONEG_ENABLE : 0);
2889         new_status |= ((cmd->speed == SPEED_100) ? VELOCITY_SPEED_100 : 0);
2890         new_status |= ((cmd->speed == SPEED_10) ? VELOCITY_SPEED_10 : 0);
2891         new_status |= ((cmd->duplex == DUPLEX_FULL) ? VELOCITY_DUPLEX_FULL : 0);
2892
2893         if ((new_status & VELOCITY_AUTONEG_ENABLE) && (new_status != (curr_status | VELOCITY_AUTONEG_ENABLE)))
2894                 ret = -EINVAL;
2895         else
2896                 velocity_set_media_mode(vptr, new_status);
2897
2898         return ret;
2899 }
2900
2901 static u32 velocity_get_link(struct net_device *dev)
2902 {
2903         struct velocity_info *vptr = netdev_priv(dev);
2904         struct mac_regs __iomem * regs = vptr->mac_regs;
2905         return BYTE_REG_BITS_IS_ON(PHYSR0_LINKGD, &regs->PHYSR0) ? 1 : 0;
2906 }
2907
2908 static void velocity_get_drvinfo(struct net_device *dev, struct ethtool_drvinfo *info)
2909 {
2910         struct velocity_info *vptr = netdev_priv(dev);
2911         strcpy(info->driver, VELOCITY_NAME);
2912         strcpy(info->version, VELOCITY_VERSION);
2913         strcpy(info->bus_info, pci_name(vptr->pdev));
2914 }
2915
2916 static void velocity_ethtool_get_wol(struct net_device *dev, struct ethtool_wolinfo *wol)
2917 {
2918         struct velocity_info *vptr = netdev_priv(dev);
2919         wol->supported = WAKE_PHY | WAKE_MAGIC | WAKE_UCAST | WAKE_ARP;
2920         wol->wolopts |= WAKE_MAGIC;
2921         /*
2922            if (vptr->wol_opts & VELOCITY_WOL_PHY)
2923                    wol.wolopts|=WAKE_PHY;
2924                          */
2925         if (vptr->wol_opts & VELOCITY_WOL_UCAST)
2926                 wol->wolopts |= WAKE_UCAST;
2927         if (vptr->wol_opts & VELOCITY_WOL_ARP)
2928                 wol->wolopts |= WAKE_ARP;
2929         memcpy(&wol->sopass, vptr->wol_passwd, 6);
2930 }
2931
2932 static int velocity_ethtool_set_wol(struct net_device *dev, struct ethtool_wolinfo *wol)
2933 {
2934         struct velocity_info *vptr = netdev_priv(dev);
2935
2936         if (!(wol->wolopts & (WAKE_PHY | WAKE_MAGIC | WAKE_UCAST | WAKE_ARP)))
2937                 return -EFAULT;
2938         vptr->wol_opts = VELOCITY_WOL_MAGIC;
2939
2940         /*
2941            if (wol.wolopts & WAKE_PHY) {
2942            vptr->wol_opts|=VELOCITY_WOL_PHY;
2943            vptr->flags |=VELOCITY_FLAGS_WOL_ENABLED;
2944            }
2945          */
2946
2947         if (wol->wolopts & WAKE_MAGIC) {
2948                 vptr->wol_opts |= VELOCITY_WOL_MAGIC;
2949                 vptr->flags |= VELOCITY_FLAGS_WOL_ENABLED;
2950         }
2951         if (wol->wolopts & WAKE_UCAST) {
2952                 vptr->wol_opts |= VELOCITY_WOL_UCAST;
2953                 vptr->flags |= VELOCITY_FLAGS_WOL_ENABLED;
2954         }
2955         if (wol->wolopts & WAKE_ARP) {
2956                 vptr->wol_opts |= VELOCITY_WOL_ARP;
2957                 vptr->flags |= VELOCITY_FLAGS_WOL_ENABLED;
2958         }
2959         memcpy(vptr->wol_passwd, wol->sopass, 6);
2960         return 0;
2961 }
2962
2963 static u32 velocity_get_msglevel(struct net_device *dev)
2964 {
2965         return msglevel;
2966 }
2967
2968 static void velocity_set_msglevel(struct net_device *dev, u32 value)
2969 {
2970          msglevel = value;
2971 }
2972
2973 static const struct ethtool_ops velocity_ethtool_ops = {
2974         .get_settings   =       velocity_get_settings,
2975         .set_settings   =       velocity_set_settings,
2976         .get_drvinfo    =       velocity_get_drvinfo,
2977         .get_wol        =       velocity_ethtool_get_wol,
2978         .set_wol        =       velocity_ethtool_set_wol,
2979         .get_msglevel   =       velocity_get_msglevel,
2980         .set_msglevel   =       velocity_set_msglevel,
2981         .get_link       =       velocity_get_link,
2982         .begin          =       velocity_ethtool_up,
2983         .complete       =       velocity_ethtool_down
2984 };
2985
2986 /**
2987  *      velocity_mii_ioctl              -       MII ioctl handler
2988  *      @dev: network device
2989  *      @ifr: the ifreq block for the ioctl
2990  *      @cmd: the command
2991  *
2992  *      Process MII requests made via ioctl from the network layer. These
2993  *      are used by tools like kudzu to interrogate the link state of the
2994  *      hardware
2995  */
2996
2997 static int velocity_mii_ioctl(struct net_device *dev, struct ifreq *ifr, int cmd)
2998 {
2999         struct velocity_info *vptr = netdev_priv(dev);
3000         struct mac_regs __iomem * regs = vptr->mac_regs;
3001         unsigned long flags;
3002         struct mii_ioctl_data *miidata = if_mii(ifr);
3003         int err;
3004
3005         switch (cmd) {
3006         case SIOCGMIIPHY:
3007                 miidata->phy_id = readb(&regs->MIIADR) & 0x1f;
3008                 break;
3009         case SIOCGMIIREG:
3010                 if (!capable(CAP_NET_ADMIN))
3011                         return -EPERM;
3012                 if(velocity_mii_read(vptr->mac_regs, miidata->reg_num & 0x1f, &(miidata->val_out)) < 0)
3013                         return -ETIMEDOUT;
3014                 break;
3015         case SIOCSMIIREG:
3016                 if (!capable(CAP_NET_ADMIN))
3017                         return -EPERM;
3018                 spin_lock_irqsave(&vptr->lock, flags);
3019                 err = velocity_mii_write(vptr->mac_regs, miidata->reg_num & 0x1f, miidata->val_in);
3020                 spin_unlock_irqrestore(&vptr->lock, flags);
3021                 check_connection_type(vptr->mac_regs);
3022                 if(err)
3023                         return err;
3024                 break;
3025         default:
3026                 return -EOPNOTSUPP;
3027         }
3028         return 0;
3029 }
3030
3031 #ifdef CONFIG_PM
3032
3033 /**
3034  *      velocity_save_context   -       save registers
3035  *      @vptr: velocity
3036  *      @context: buffer for stored context
3037  *
3038  *      Retrieve the current configuration from the velocity hardware
3039  *      and stash it in the context structure, for use by the context
3040  *      restore functions. This allows us to save things we need across
3041  *      power down states
3042  */
3043
3044 static void velocity_save_context(struct velocity_info *vptr, struct velocity_context * context)
3045 {
3046         struct mac_regs __iomem * regs = vptr->mac_regs;
3047         u16 i;
3048         u8 __iomem *ptr = (u8 __iomem *)regs;
3049
3050         for (i = MAC_REG_PAR; i < MAC_REG_CR0_CLR; i += 4)
3051                 *((u32 *) (context->mac_reg + i)) = readl(ptr + i);
3052
3053         for (i = MAC_REG_MAR; i < MAC_REG_TDCSR_CLR; i += 4)
3054                 *((u32 *) (context->mac_reg + i)) = readl(ptr + i);
3055
3056         for (i = MAC_REG_RDBASE_LO; i < MAC_REG_FIFO_TEST0; i += 4)
3057                 *((u32 *) (context->mac_reg + i)) = readl(ptr + i);
3058
3059 }
3060
3061 /**
3062  *      velocity_restore_context        -       restore registers
3063  *      @vptr: velocity
3064  *      @context: buffer for stored context
3065  *
3066  *      Reload the register configuration from the velocity context
3067  *      created by velocity_save_context.
3068  */
3069
3070 static void velocity_restore_context(struct velocity_info *vptr, struct velocity_context *context)
3071 {
3072         struct mac_regs __iomem * regs = vptr->mac_regs;
3073         int i;
3074         u8 __iomem *ptr = (u8 __iomem *)regs;
3075
3076         for (i = MAC_REG_PAR; i < MAC_REG_CR0_SET; i += 4) {
3077                 writel(*((u32 *) (context->mac_reg + i)), ptr + i);
3078         }
3079
3080         /* Just skip cr0 */
3081         for (i = MAC_REG_CR1_SET; i < MAC_REG_CR0_CLR; i++) {
3082                 /* Clear */
3083                 writeb(~(*((u8 *) (context->mac_reg + i))), ptr + i + 4);
3084                 /* Set */
3085                 writeb(*((u8 *) (context->mac_reg + i)), ptr + i);
3086         }
3087
3088         for (i = MAC_REG_MAR; i < MAC_REG_IMR; i += 4) {
3089                 writel(*((u32 *) (context->mac_reg + i)), ptr + i);
3090         }
3091
3092         for (i = MAC_REG_RDBASE_LO; i < MAC_REG_FIFO_TEST0; i += 4) {
3093                 writel(*((u32 *) (context->mac_reg + i)), ptr + i);
3094         }
3095
3096         for (i = MAC_REG_TDCSR_SET; i <= MAC_REG_RDCSR_SET; i++) {
3097                 writeb(*((u8 *) (context->mac_reg + i)), ptr + i);
3098         }
3099
3100 }
3101
3102 /**
3103  *      wol_calc_crc            -       WOL CRC
3104  *      @pattern: data pattern
3105  *      @mask_pattern: mask
3106  *
3107  *      Compute the wake on lan crc hashes for the packet header
3108  *      we are interested in.
3109  */
3110
3111 static u16 wol_calc_crc(int size, u8 * pattern, u8 *mask_pattern)
3112 {
3113         u16 crc = 0xFFFF;
3114         u8 mask;
3115         int i, j;
3116
3117         for (i = 0; i < size; i++) {
3118                 mask = mask_pattern[i];
3119
3120                 /* Skip this loop if the mask equals to zero */
3121                 if (mask == 0x00)
3122                         continue;
3123
3124                 for (j = 0; j < 8; j++) {
3125                         if ((mask & 0x01) == 0) {
3126                                 mask >>= 1;
3127                                 continue;
3128                         }
3129                         mask >>= 1;
3130                         crc = crc_ccitt(crc, &(pattern[i * 8 + j]), 1);
3131                 }
3132         }
3133         /*      Finally, invert the result once to get the correct data */
3134         crc = ~crc;
3135         return bitrev32(crc) >> 16;
3136 }
3137
3138 /**
3139  *      velocity_set_wol        -       set up for wake on lan
3140  *      @vptr: velocity to set WOL status on
3141  *
3142  *      Set a card up for wake on lan either by unicast or by
3143  *      ARP packet.
3144  *
3145  *      FIXME: check static buffer is safe here
3146  */
3147
3148 static int velocity_set_wol(struct velocity_info *vptr)
3149 {
3150         struct mac_regs __iomem * regs = vptr->mac_regs;
3151         static u8 buf[256];
3152         int i;
3153
3154         static u32 mask_pattern[2][4] = {
3155                 {0x00203000, 0x000003C0, 0x00000000, 0x0000000}, /* ARP */
3156                 {0xfffff000, 0xffffffff, 0xffffffff, 0x000ffff}  /* Magic Packet */
3157         };
3158
3159         writew(0xFFFF, &regs->WOLCRClr);
3160         writeb(WOLCFG_SAB | WOLCFG_SAM, &regs->WOLCFGSet);
3161         writew(WOLCR_MAGIC_EN, &regs->WOLCRSet);
3162
3163         /*
3164            if (vptr->wol_opts & VELOCITY_WOL_PHY)
3165            writew((WOLCR_LINKON_EN|WOLCR_LINKOFF_EN), &regs->WOLCRSet);
3166          */
3167
3168         if (vptr->wol_opts & VELOCITY_WOL_UCAST) {
3169                 writew(WOLCR_UNICAST_EN, &regs->WOLCRSet);
3170         }
3171
3172         if (vptr->wol_opts & VELOCITY_WOL_ARP) {
3173                 struct arp_packet *arp = (struct arp_packet *) buf;
3174                 u16 crc;
3175                 memset(buf, 0, sizeof(struct arp_packet) + 7);
3176
3177                 for (i = 0; i < 4; i++)
3178                         writel(mask_pattern[0][i], &regs->ByteMask[0][i]);
3179
3180                 arp->type = htons(ETH_P_ARP);
3181                 arp->ar_op = htons(1);
3182
3183                 memcpy(arp->ar_tip, vptr->ip_addr, 4);
3184
3185                 crc = wol_calc_crc((sizeof(struct arp_packet) + 7) / 8, buf,
3186                                 (u8 *) & mask_pattern[0][0]);
3187
3188                 writew(crc, &regs->PatternCRC[0]);
3189                 writew(WOLCR_ARP_EN, &regs->WOLCRSet);
3190         }
3191
3192         BYTE_REG_BITS_ON(PWCFG_WOLTYPE, &regs->PWCFGSet);
3193         BYTE_REG_BITS_ON(PWCFG_LEGACY_WOLEN, &regs->PWCFGSet);
3194
3195         writew(0x0FFF, &regs->WOLSRClr);
3196
3197         if (vptr->mii_status & VELOCITY_AUTONEG_ENABLE) {
3198                 if (PHYID_GET_PHY_ID(vptr->phy_id) == PHYID_CICADA_CS8201)
3199                         MII_REG_BITS_ON(AUXCR_MDPPS, MII_REG_AUXCR, vptr->mac_regs);
3200
3201                 MII_REG_BITS_OFF(G1000CR_1000FD | G1000CR_1000, MII_REG_G1000CR, vptr->mac_regs);
3202         }
3203
3204         if (vptr->mii_status & VELOCITY_SPEED_1000)
3205                 MII_REG_BITS_ON(BMCR_REAUTO, MII_REG_BMCR, vptr->mac_regs);
3206
3207         BYTE_REG_BITS_ON(CHIPGCR_FCMODE, &regs->CHIPGCR);
3208
3209         {
3210                 u8 GCR;
3211                 GCR = readb(&regs->CHIPGCR);
3212                 GCR = (GCR & ~CHIPGCR_FCGMII) | CHIPGCR_FCFDX;
3213                 writeb(GCR, &regs->CHIPGCR);
3214         }
3215
3216         BYTE_REG_BITS_OFF(ISR_PWEI, &regs->ISR);
3217         /* Turn on SWPTAG just before entering power mode */
3218         BYTE_REG_BITS_ON(STICKHW_SWPTAG, &regs->STICKHW);
3219         /* Go to bed ..... */
3220         BYTE_REG_BITS_ON((STICKHW_DS1 | STICKHW_DS0), &regs->STICKHW);
3221
3222         return 0;
3223 }
3224
3225 static int velocity_suspend(struct pci_dev *pdev, pm_message_t state)
3226 {
3227         struct net_device *dev = pci_get_drvdata(pdev);
3228         struct velocity_info *vptr = netdev_priv(dev);
3229         unsigned long flags;
3230
3231         if(!netif_running(vptr->dev))
3232                 return 0;
3233
3234         netif_device_detach(vptr->dev);
3235
3236         spin_lock_irqsave(&vptr->lock, flags);
3237         pci_save_state(pdev);
3238 #ifdef ETHTOOL_GWOL
3239         if (vptr->flags & VELOCITY_FLAGS_WOL_ENABLED) {
3240                 velocity_get_ip(vptr);
3241                 velocity_save_context(vptr, &vptr->context);
3242                 velocity_shutdown(vptr);
3243                 velocity_set_wol(vptr);
3244                 pci_enable_wake(pdev, 3, 1);
3245                 pci_set_power_state(pdev, PCI_D3hot);
3246         } else {
3247                 velocity_save_context(vptr, &vptr->context);
3248                 velocity_shutdown(vptr);
3249                 pci_disable_device(pdev);
3250                 pci_set_power_state(pdev, pci_choose_state(pdev, state));
3251         }
3252 #else
3253         pci_set_power_state(pdev, pci_choose_state(pdev, state));
3254 #endif
3255         spin_unlock_irqrestore(&vptr->lock, flags);
3256         return 0;
3257 }
3258
3259 static int velocity_resume(struct pci_dev *pdev)
3260 {
3261         struct net_device *dev = pci_get_drvdata(pdev);
3262         struct velocity_info *vptr = netdev_priv(dev);
3263         unsigned long flags;
3264         int i;
3265
3266         if(!netif_running(vptr->dev))
3267                 return 0;
3268
3269         pci_set_power_state(pdev, PCI_D0);
3270         pci_enable_wake(pdev, 0, 0);
3271         pci_restore_state(pdev);
3272
3273         mac_wol_reset(vptr->mac_regs);
3274
3275         spin_lock_irqsave(&vptr->lock, flags);
3276         velocity_restore_context(vptr, &vptr->context);
3277         velocity_init_registers(vptr, VELOCITY_INIT_WOL);
3278         mac_disable_int(vptr->mac_regs);
3279
3280         velocity_tx_srv(vptr, 0);
3281
3282         for (i = 0; i < vptr->num_txq; i++) {
3283                 if (vptr->td_used[i]) {
3284                         mac_tx_queue_wake(vptr->mac_regs, i);
3285                 }
3286         }
3287
3288         mac_enable_int(vptr->mac_regs);
3289         spin_unlock_irqrestore(&vptr->lock, flags);
3290         netif_device_attach(vptr->dev);
3291
3292         return 0;
3293 }
3294
3295 static int velocity_netdev_event(struct notifier_block *nb, unsigned long notification, void *ptr)
3296 {
3297         struct in_ifaddr *ifa = (struct in_ifaddr *) ptr;
3298
3299         if (ifa) {
3300                 struct net_device *dev = ifa->ifa_dev->dev;
3301                 struct velocity_info *vptr;
3302                 unsigned long flags;
3303
3304                 spin_lock_irqsave(&velocity_dev_list_lock, flags);
3305                 list_for_each_entry(vptr, &velocity_dev_list, list) {
3306                         if (vptr->dev == dev) {
3307                                 velocity_get_ip(vptr);
3308                                 break;
3309                         }
3310                 }
3311                 spin_unlock_irqrestore(&velocity_dev_list_lock, flags);
3312         }
3313         return NOTIFY_DONE;
3314 }
3315 #endif