drivers/scsi/fcoe/fcoe.c

   1 /*
   2  * Copyright(c) 2007 - 2009 Intel Corporation. All rights reserved.
   3  *
   4  * This program is free software; you can redistribute it and/or modify it
   5  * under the terms and conditions of the GNU General Public License,
   6  * version 2, as published by the Free Software Foundation.
   7  *
   8  * This program is distributed in the hope it will be useful, but WITHOUT
   9  * ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or
  10  * FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License for
  11  * more details.
  12  *
  13  * You should have received a copy of the GNU General Public License along with
  14  * this program; if not, write to the Free Software Foundation, Inc.,
  15  * 51 Franklin St - Fifth Floor, Boston, MA 02110-1301 USA.
  16  *
  17  * Maintained at www.Open-FCoE.org
  18  */
  19
  20 #include <linux/module.h>
  21 #include <linux/version.h>
  22 #include <linux/spinlock.h>
  23 #include <linux/netdevice.h>
  24 #include <linux/etherdevice.h>
  25 #include <linux/ethtool.h>
  26 #include <linux/if_ether.h>
  27 #include <linux/if_vlan.h>
  28 #include <linux/crc32.h>
  29 #include <linux/slab.h>
  30 #include <linux/cpu.h>
  31 #include <linux/fs.h>
  32 #include <linux/sysfs.h>
  33 #include <linux/ctype.h>
  34 #include <scsi/scsi_tcq.h>
  35 #include <scsi/scsicam.h>
  36 #include <scsi/scsi_transport.h>
  37 #include <scsi/scsi_transport_fc.h>
  38 #include <net/rtnetlink.h>
  39
  40 #include <scsi/fc/fc_encaps.h>
  41 #include <scsi/fc/fc_fip.h>
  42
  43 #include <scsi/libfc.h>
  44 #include <scsi/fc_frame.h>
  45 #include <scsi/libfcoe.h>
  46
  47 #include "fcoe.h"
  48
  49 MODULE_AUTHOR("Open-FCoE.org");
  50 MODULE_DESCRIPTION("FCoE");
  51 MODULE_LICENSE("GPL v2");
  52
  53 /* Performance tuning parameters for fcoe */
  54 static unsigned int fcoe_ddp_min;
  55 module_param_named(ddp_min, fcoe_ddp_min, uint, S_IRUGO | S_IWUSR);
  56 MODULE_PARM_DESC(ddp_min, "Minimum I/O size in bytes for "      \
  57                  "Direct Data Placement (DDP).");
  58
  59 DEFINE_MUTEX(fcoe_config_mutex);
  60
  61 /* fcoe_percpu_clean completion.  Waiter protected by fcoe_create_mutex */
  62 static DECLARE_COMPLETION(fcoe_flush_completion);
  63
  64 /* fcoe host list */
  65 /* must only by accessed under the RTNL mutex */
  66 LIST_HEAD(fcoe_hostlist);
  67 DEFINE_PER_CPU(struct fcoe_percpu_s, fcoe_percpu);
  68
  69 /* Function Prototypes */
  70 static int fcoe_reset(struct Scsi_Host *);
  71 static int fcoe_xmit(struct fc_lport *, struct fc_frame *);
  72 static int fcoe_rcv(struct sk_buff *, struct net_device *,
  73                     struct packet_type *, struct net_device *);
  74 static int fcoe_percpu_receive_thread(void *);
  75 static void fcoe_clean_pending_queue(struct fc_lport *);
  76 static void fcoe_percpu_clean(struct fc_lport *);
  77 static int fcoe_link_ok(struct fc_lport *);
  78
  79 static struct fc_lport *fcoe_hostlist_lookup(const struct net_device *);
  80 static int fcoe_hostlist_add(const struct fc_lport *);
  81
  82 static void fcoe_check_wait_queue(struct fc_lport *, struct sk_buff *);
  83 static int fcoe_device_notification(struct notifier_block *, ulong, void *);
  84 static void fcoe_dev_setup(void);
  85 static void fcoe_dev_cleanup(void);
  86 static struct fcoe_interface
  87 *fcoe_hostlist_lookup_port(const struct net_device *);
  88
  89 static int fcoe_fip_recv(struct sk_buff *, struct net_device *,
  90                          struct packet_type *, struct net_device *);
  91
  92 static void fcoe_fip_send(struct fcoe_ctlr *, struct sk_buff *);
  93 static void fcoe_update_src_mac(struct fc_lport *, u8 *);
  94 static u8 *fcoe_get_src_mac(struct fc_lport *);
  95 static void fcoe_destroy_work(struct work_struct *);
  96
  97 static int fcoe_ddp_setup(struct fc_lport *, u16, struct scatterlist *,
  98                           unsigned int);
  99 static int fcoe_ddp_done(struct fc_lport *, u16);
 100
 101 static int fcoe_cpu_callback(struct notifier_block *, unsigned long, void *);
 102
 103 static int fcoe_create(const char *, struct kernel_param *);
 104 static int fcoe_destroy(const char *, struct kernel_param *);
 105 static int fcoe_enable(const char *, struct kernel_param *);
 106 static int fcoe_disable(const char *, struct kernel_param *);
 107
 108 static struct fc_seq *fcoe_elsct_send(struct fc_lport *,
 109                                       u32 did, struct fc_frame *,
 110                                       unsigned int op,
 111                                       void (*resp)(struct fc_seq *,
 112                                                    struct fc_frame *,
 113                                                    void *),
 114                                       void *, u32 timeout);
 115 static void fcoe_recv_frame(struct sk_buff *skb);
 116
 117 static void fcoe_get_lesb(struct fc_lport *, struct fc_els_lesb *);
 118
 119 module_param_call(create, fcoe_create, NULL, NULL, S_IWUSR);
 120 __MODULE_PARM_TYPE(create, "string");
 121 MODULE_PARM_DESC(create, " Creates fcoe instance on a ethernet interface");
 122 module_param_call(destroy, fcoe_destroy, NULL, NULL, S_IWUSR);
 123 __MODULE_PARM_TYPE(destroy, "string");
 124 MODULE_PARM_DESC(destroy, " Destroys fcoe instance on a ethernet interface");
 125 module_param_call(enable, fcoe_enable, NULL, NULL, S_IWUSR);
 126 __MODULE_PARM_TYPE(enable, "string");
 127 MODULE_PARM_DESC(enable, " Enables fcoe on a ethernet interface.");
 128 module_param_call(disable, fcoe_disable, NULL, NULL, S_IWUSR);
 129 __MODULE_PARM_TYPE(disable, "string");
 130 MODULE_PARM_DESC(disable, " Disables fcoe on a ethernet interface.");
 131
 132 /* notification function for packets from net device */
 133 static struct notifier_block fcoe_notifier = {
 134         .notifier_call = fcoe_device_notification,
 135 };
 136
 137 /* notification function for CPU hotplug events */
 138 static struct notifier_block fcoe_cpu_notifier = {
 139         .notifier_call = fcoe_cpu_callback,
 140 };
 141
 142 static struct scsi_transport_template *fcoe_transport_template;
 143 static struct scsi_transport_template *fcoe_vport_transport_template;
 144
 145 static int fcoe_vport_destroy(struct fc_vport *);
 146 static int fcoe_vport_create(struct fc_vport *, bool disabled);
 147 static int fcoe_vport_disable(struct fc_vport *, bool disable);
 148 static void fcoe_set_vport_symbolic_name(struct fc_vport *);
 149 static void fcoe_set_port_id(struct fc_lport *, u32, struct fc_frame *);
 150
 151 static struct libfc_function_template fcoe_libfc_fcn_templ = {
 152         .frame_send = fcoe_xmit,
 153         .ddp_setup = fcoe_ddp_setup,
 154         .ddp_done = fcoe_ddp_done,
 155         .elsct_send = fcoe_elsct_send,
 156         .get_lesb = fcoe_get_lesb,
 157         .lport_set_port_id = fcoe_set_port_id,
 158 };
 159
 160 struct fc_function_template fcoe_transport_function = {
 161         .show_host_node_name = 1,
 162         .show_host_port_name = 1,
 163         .show_host_supported_classes = 1,
 164         .show_host_supported_fc4s = 1,
 165         .show_host_active_fc4s = 1,
 166         .show_host_maxframe_size = 1,
 167
 168         .show_host_port_id = 1,
 169         .show_host_supported_speeds = 1,
 170         .get_host_speed = fc_get_host_speed,
 171         .show_host_speed = 1,
 172         .show_host_port_type = 1,
 173         .get_host_port_state = fc_get_host_port_state,
 174         .show_host_port_state = 1,
 175         .show_host_symbolic_name = 1,
 176
 177         .dd_fcrport_size = sizeof(struct fc_rport_libfc_priv),
 178         .show_rport_maxframe_size = 1,
 179         .show_rport_supported_classes = 1,
 180
 181         .show_host_fabric_name = 1,
 182         .show_starget_node_name = 1,
 183         .show_starget_port_name = 1,
 184         .show_starget_port_id = 1,
 185         .set_rport_dev_loss_tmo = fc_set_rport_loss_tmo,
 186         .show_rport_dev_loss_tmo = 1,
 187         .get_fc_host_stats = fc_get_host_stats,
 188         .issue_fc_host_lip = fcoe_reset,
 189
 190         .terminate_rport_io = fc_rport_terminate_io,
 191
 192         .vport_create = fcoe_vport_create,
 193         .vport_delete = fcoe_vport_destroy,
 194         .vport_disable = fcoe_vport_disable,
 195         .set_vport_symbolic_name = fcoe_set_vport_symbolic_name,
 196
 197         .bsg_request = fc_lport_bsg_request,
 198 };
 199
 200 struct fc_function_template fcoe_vport_transport_function = {
 201         .show_host_node_name = 1,
 202         .show_host_port_name = 1,
 203         .show_host_supported_classes = 1,
 204         .show_host_supported_fc4s = 1,
 205         .show_host_active_fc4s = 1,
 206         .show_host_maxframe_size = 1,
 207
 208         .show_host_port_id = 1,
 209         .show_host_supported_speeds = 1,
 210         .get_host_speed = fc_get_host_speed,
 211         .show_host_speed = 1,
 212         .show_host_port_type = 1,
 213         .get_host_port_state = fc_get_host_port_state,
 214         .show_host_port_state = 1,
 215         .show_host_symbolic_name = 1,
 216
 217         .dd_fcrport_size = sizeof(struct fc_rport_libfc_priv),
 218         .show_rport_maxframe_size = 1,
 219         .show_rport_supported_classes = 1,
 220
 221         .show_host_fabric_name = 1,
 222         .show_starget_node_name = 1,
 223         .show_starget_port_name = 1,
 224         .show_starget_port_id = 1,
 225         .set_rport_dev_loss_tmo = fc_set_rport_loss_tmo,
 226         .show_rport_dev_loss_tmo = 1,
 227         .get_fc_host_stats = fc_get_host_stats,
 228         .issue_fc_host_lip = fcoe_reset,
 229
 230         .terminate_rport_io = fc_rport_terminate_io,
 231
 232         .bsg_request = fc_lport_bsg_request,
 233 };
 234
 235 static struct scsi_host_template fcoe_shost_template = {
 236         .module = THIS_MODULE,
 237         .name = "FCoE Driver",
 238         .proc_name = FCOE_NAME,
 239         .queuecommand = fc_queuecommand,
 240         .eh_abort_handler = fc_eh_abort,
 241         .eh_device_reset_handler = fc_eh_device_reset,
 242         .eh_host_reset_handler = fc_eh_host_reset,
 243         .slave_alloc = fc_slave_alloc,
 244         .change_queue_depth = fc_change_queue_depth,
 245         .change_queue_type = fc_change_queue_type,
 246         .this_id = -1,
 247         .cmd_per_lun = 3,
 248         .can_queue = FCOE_MAX_OUTSTANDING_COMMANDS,
 249         .use_clustering = ENABLE_CLUSTERING,
 250         .sg_tablesize = SG_ALL,
 251         .max_sectors = 0xffff,
 252 };
 253
 254 /**
 255  * fcoe_interface_setup() - Setup a FCoE interface
 256  * @fcoe:   The new FCoE interface
 257  * @netdev: The net device that the fcoe interface is on
 258  *
 259  * Returns : 0 for success
 260  * Locking: must be called with the RTNL mutex held
 261  */
 262 static int fcoe_interface_setup(struct fcoe_interface *fcoe,
 263                                 struct net_device *netdev)
 264 {
 265         struct fcoe_ctlr *fip = &fcoe->ctlr;
 266         struct netdev_hw_addr *ha;
 267         struct net_device *real_dev;
 268         u8 flogi_maddr[ETH_ALEN];
 269         const struct net_device_ops *ops;
 270
 271         fcoe->netdev = netdev;
 272
 273         /* Let LLD initialize for FCoE */
 274         ops = netdev->netdev_ops;
 275         if (ops->ndo_fcoe_enable) {
 276                 if (ops->ndo_fcoe_enable(netdev))
 277                         FCOE_NETDEV_DBG(netdev, "Failed to enable FCoE"
 278                                         " specific feature for LLD.\n");
 279         }
 280
 281         /* Do not support for bonding device */
 282         if ((netdev->priv_flags & IFF_MASTER_ALB) ||
 283             (netdev->priv_flags & IFF_SLAVE_INACTIVE) ||
 284             (netdev->priv_flags & IFF_MASTER_8023AD)) {
 285                 FCOE_NETDEV_DBG(netdev, "Bonded interfaces not supported\n");
 286                 return -EOPNOTSUPP;
 287         }
 288
 289         /* look for SAN MAC address, if multiple SAN MACs exist, only
 290          * use the first one for SPMA */
 291         real_dev = (netdev->priv_flags & IFF_802_1Q_VLAN) ?
 292                 vlan_dev_real_dev(netdev) : netdev;
 293         rcu_read_lock();
 294         for_each_dev_addr(real_dev, ha) {
 295                 if ((ha->type == NETDEV_HW_ADDR_T_SAN) &&
 296                     (is_valid_ether_addr(ha->addr))) {
 297                         memcpy(fip->ctl_src_addr, ha->addr, ETH_ALEN);
 298                         fip->spma = 1;
 299                         break;
 300                 }
 301         }
 302         rcu_read_unlock();
 303
 304         /* setup Source Mac Address */
 305         if (!fip->spma)
 306                 memcpy(fip->ctl_src_addr, netdev->dev_addr, netdev->addr_len);
 307
 308         /*
 309          * Add FCoE MAC address as second unicast MAC address
 310          * or enter promiscuous mode if not capable of listening
 311          * for multiple unicast MACs.
 312          */
 313         memcpy(flogi_maddr, (u8[6]) FC_FCOE_FLOGI_MAC, ETH_ALEN);
 314         dev_unicast_add(netdev, flogi_maddr);
 315         if (fip->spma)
 316                 dev_unicast_add(netdev, fip->ctl_src_addr);
 317         dev_mc_add(netdev, FIP_ALL_ENODE_MACS, ETH_ALEN, 0);
 318
 319         /*
 320          * setup the receive function from ethernet driver
 321          * on the ethertype for the given device
 322          */
 323         fcoe->fcoe_packet_type.func = fcoe_rcv;
 324         fcoe->fcoe_packet_type.type = __constant_htons(ETH_P_FCOE);
 325         fcoe->fcoe_packet_type.dev = netdev;
 326         dev_add_pack(&fcoe->fcoe_packet_type);
 327
 328         fcoe->fip_packet_type.func = fcoe_fip_recv;
 329         fcoe->fip_packet_type.type = htons(ETH_P_FIP);
 330         fcoe->fip_packet_type.dev = netdev;
 331         dev_add_pack(&fcoe->fip_packet_type);
 332
 333         return 0;
 334 }
 335
 336 /**
 337  * fcoe_interface_create() - Create a FCoE interface on a net device
 338  * @netdev: The net device to create the FCoE interface on
 339  *
 340  * Returns: pointer to a struct fcoe_interface or NULL on error
 341  */
 342 static struct fcoe_interface *fcoe_interface_create(struct net_device *netdev)
 343 {
 344         struct fcoe_interface *fcoe;
 345         int err;
 346
 347         fcoe = kzalloc(sizeof(*fcoe), GFP_KERNEL);
 348         if (!fcoe) {
 349                 FCOE_NETDEV_DBG(netdev, "Could not allocate fcoe structure\n");
 350                 return NULL;
 351         }
 352
 353         dev_hold(netdev);
 354         kref_init(&fcoe->kref);
 355
 356         /*
 357          * Initialize FIP.
 358          */
 359         fcoe_ctlr_init(&fcoe->ctlr);
 360         fcoe->ctlr.send = fcoe_fip_send;
 361         fcoe->ctlr.update_mac = fcoe_update_src_mac;
 362         fcoe->ctlr.get_src_addr = fcoe_get_src_mac;
 363
 364         err = fcoe_interface_setup(fcoe, netdev);
 365         if (err) {
 366                 fcoe_ctlr_destroy(&fcoe->ctlr);
 367                 kfree(fcoe);
 368                 dev_put(netdev);
 369                 return NULL;
 370         }
 371
 372         return fcoe;
 373 }
 374
 375 /**
 376  * fcoe_interface_cleanup() - Clean up a FCoE interface
 377  * @fcoe: The FCoE interface to be cleaned up
 378  *
 379  * Caller must be holding the RTNL mutex
 380  */
 381 void fcoe_interface_cleanup(struct fcoe_interface *fcoe)
 382 {
 383         struct net_device *netdev = fcoe->netdev;
 384         struct fcoe_ctlr *fip = &fcoe->ctlr;
 385         u8 flogi_maddr[ETH_ALEN];
 386         const struct net_device_ops *ops;
 387
 388         /*
 389          * Don't listen for Ethernet packets anymore.
 390          * synchronize_net() ensures that the packet handlers are not running
 391          * on another CPU. dev_remove_pack() would do that, this calls the
 392          * unsyncronized version __dev_remove_pack() to avoid multiple delays.
 393          */
 394         __dev_remove_pack(&fcoe->fcoe_packet_type);
 395         __dev_remove_pack(&fcoe->fip_packet_type);
 396         synchronize_net();
 397
 398         /* Delete secondary MAC addresses */
 399         memcpy(flogi_maddr, (u8[6]) FC_FCOE_FLOGI_MAC, ETH_ALEN);
 400         dev_unicast_delete(netdev, flogi_maddr);
 401         if (fip->spma)
 402                 dev_unicast_delete(netdev, fip->ctl_src_addr);
 403         dev_mc_delete(netdev, FIP_ALL_ENODE_MACS, ETH_ALEN, 0);
 404
 405         /* Tell the LLD we are done w/ FCoE */
 406         ops = netdev->netdev_ops;
 407         if (ops->ndo_fcoe_disable) {
 408                 if (ops->ndo_fcoe_disable(netdev))
 409                         FCOE_NETDEV_DBG(netdev, "Failed to disable FCoE"
 410                                         " specific feature for LLD.\n");
 411         }
 412 }
 413
 414 /**
 415  * fcoe_interface_release() - fcoe_port kref release function
 416  * @kref: Embedded reference count in an fcoe_interface struct
 417  */
 418 static void fcoe_interface_release(struct kref *kref)
 419 {
 420         struct fcoe_interface *fcoe;
 421         struct net_device *netdev;
 422
 423         fcoe = container_of(kref, struct fcoe_interface, kref);
 424         netdev = fcoe->netdev;
 425         /* tear-down the FCoE controller */
 426         fcoe_ctlr_destroy(&fcoe->ctlr);
 427         kfree(fcoe);
 428         dev_put(netdev);
 429 }
 430
 431 /**
 432  * fcoe_interface_get() - Get a reference to a FCoE interface
 433  * @fcoe: The FCoE interface to be held
 434  */
 435 static inline void fcoe_interface_get(struct fcoe_interface *fcoe)
 436 {
 437         kref_get(&fcoe->kref);
 438 }
 439
 440 /**
 441  * fcoe_interface_put() - Put a reference to a FCoE interface
 442  * @fcoe: The FCoE interface to be released
 443  */
 444 static inline void fcoe_interface_put(struct fcoe_interface *fcoe)
 445 {
 446         kref_put(&fcoe->kref, fcoe_interface_release);
 447 }
 448
 449 /**
 450  * fcoe_fip_recv() - Handler for received FIP frames
 451  * @skb:      The receive skb
 452  * @netdev:   The associated net device
 453  * @ptype:    The packet_type structure which was used to register this handler
 454  * @orig_dev: The original net_device the the skb was received on.
 455  *            (in case dev is a bond)
 456  *
 457  * Returns: 0 for success
 458  */
 459 static int fcoe_fip_recv(struct sk_buff *skb, struct net_device *netdev,
 460                          struct packet_type *ptype,
 461                          struct net_device *orig_dev)
 462 {
 463         struct fcoe_interface *fcoe;
 464
 465         fcoe = container_of(ptype, struct fcoe_interface, fip_packet_type);
 466         fcoe_ctlr_recv(&fcoe->ctlr, skb);
 467         return 0;
 468 }
 469
 470 /**
 471  * fcoe_fip_send() - Send an Ethernet-encapsulated FIP frame
 472  * @fip: The FCoE controller
 473  * @skb: The FIP packet to be sent
 474  */
 475 static void fcoe_fip_send(struct fcoe_ctlr *fip, struct sk_buff *skb)
 476 {
 477         skb->dev = fcoe_from_ctlr(fip)->netdev;
 478         dev_queue_xmit(skb);
 479 }
 480
 481 /**
 482  * fcoe_update_src_mac() - Update the Ethernet MAC filters
 483  * @lport: The local port to update the source MAC on
 484  * @addr:  Unicast MAC address to add
 485  *
 486  * Remove any previously-set unicast MAC filter.
 487  * Add secondary FCoE MAC address filter for our OUI.
 488  */
 489 static void fcoe_update_src_mac(struct fc_lport *lport, u8 *addr)
 490 {
 491         struct fcoe_port *port = lport_priv(lport);
 492         struct fcoe_interface *fcoe = port->fcoe;
 493
 494         rtnl_lock();
 495         if (!is_zero_ether_addr(port->data_src_addr))
 496                 dev_unicast_delete(fcoe->netdev, port->data_src_addr);
 497         if (!is_zero_ether_addr(addr))
 498                 dev_unicast_add(fcoe->netdev, addr);
 499         memcpy(port->data_src_addr, addr, ETH_ALEN);
 500         rtnl_unlock();
 501 }
 502
 503 /**
 504  * fcoe_get_src_mac() - return the Ethernet source address for an lport
 505  * @lport: libfc lport
 506  */
 507 static u8 *fcoe_get_src_mac(struct fc_lport *lport)
 508 {
 509         struct fcoe_port *port = lport_priv(lport);
 510
 511         return port->data_src_addr;
 512 }
 513
 514 /**
 515  * fcoe_lport_config() - Set up a local port
 516  * @lport: The local port to be setup
 517  *
 518  * Returns: 0 for success
 519  */
 520 static int fcoe_lport_config(struct fc_lport *lport)
 521 {
 522         lport->link_up = 0;
 523         lport->qfull = 0;
 524         lport->max_retry_count = 3;
 525         lport->max_rport_retry_count = 3;
 526         lport->e_d_tov = 2 * 1000;      /* FC-FS default */
 527         lport->r_a_tov = 2 * 2 * 1000;
 528         lport->service_params = (FCP_SPPF_INIT_FCN | FCP_SPPF_RD_XRDY_DIS |
 529                                  FCP_SPPF_RETRY | FCP_SPPF_CONF_COMPL);
 530         lport->does_npiv = 1;
 531
 532         fc_lport_init_stats(lport);
 533
 534         /* lport fc_lport related configuration */
 535         fc_lport_config(lport);
 536
 537         /* offload related configuration */
 538         lport->crc_offload = 0;
 539         lport->seq_offload = 0;
 540         lport->lro_enabled = 0;
 541         lport->lro_xid = 0;
 542         lport->lso_max = 0;
 543
 544         return 0;
 545 }
 546
 547 /**
 548  * fcoe_queue_timer() - The fcoe queue timer
 549  * @lport: The local port
 550  *
 551  * Calls fcoe_check_wait_queue on timeout
 552  */
 553 static void fcoe_queue_timer(ulong lport)
 554 {
 555         fcoe_check_wait_queue((struct fc_lport *)lport, NULL);
 556 }
 557
 558 /**
 559  * fcoe_get_wwn() - Get the world wide name from LLD if it supports it
 560  * @netdev: the associated net device
 561  * @wwn: the output WWN
 562  * @type: the type of WWN (WWPN or WWNN)
 563  *
 564  * Returns: 0 for success
 565  */
 566 static int fcoe_get_wwn(struct net_device *netdev, u64 *wwn, int type)
 567 {
 568         const struct net_device_ops *ops = netdev->netdev_ops;
 569
 570         if (ops->ndo_fcoe_get_wwn)
 571                 return ops->ndo_fcoe_get_wwn(netdev, wwn, type);
 572         return -EINVAL;
 573 }
 574
 575 /**
 576  * fcoe_netdev_config() - Set up net devive for SW FCoE
 577  * @lport:  The local port that is associated with the net device
 578  * @netdev: The associated net device
 579  *
 580  * Must be called after fcoe_lport_config() as it will use local port mutex
 581  *
 582  * Returns: 0 for success
 583  */
 584 static int fcoe_netdev_config(struct fc_lport *lport, struct net_device *netdev)
 585 {
 586         u32 mfs;
 587         u64 wwnn, wwpn;
 588         struct fcoe_interface *fcoe;
 589         struct fcoe_port *port;
 590         int vid = 0;
 591
 592         /* Setup lport private data to point to fcoe softc */
 593         port = lport_priv(lport);
 594         fcoe = port->fcoe;
 595
 596         /*
 597          * Determine max frame size based on underlying device and optional
 598          * user-configured limit.  If the MFS is too low, fcoe_link_ok()
 599          * will return 0, so do this first.
 600          */
 601         mfs = netdev->mtu;
 602         if (netdev->features & NETIF_F_FCOE_MTU) {
 603                 mfs = FCOE_MTU;
 604                 FCOE_NETDEV_DBG(netdev, "Supports FCOE_MTU of %d bytes\n", mfs);
 605         }
 606         mfs -= (sizeof(struct fcoe_hdr) + sizeof(struct fcoe_crc_eof));
 607         if (fc_set_mfs(lport, mfs))
 608                 return -EINVAL;
 609
 610         /* offload features support */
 611         if (netdev->features & NETIF_F_SG)
 612                 lport->sg_supp = 1;
 613
 614         if (netdev->features & NETIF_F_FCOE_CRC) {
 615                 lport->crc_offload = 1;
 616                 FCOE_NETDEV_DBG(netdev, "Supports FCCRC offload\n");
 617         }
 618         if (netdev->features & NETIF_F_FSO) {
 619                 lport->seq_offload = 1;
 620                 lport->lso_max = netdev->gso_max_size;
 621                 FCOE_NETDEV_DBG(netdev, "Supports LSO for max len 0x%x\n",
 622                                 lport->lso_max);
 623         }
 624         if (netdev->fcoe_ddp_xid) {
 625                 lport->lro_enabled = 1;
 626                 lport->lro_xid = netdev->fcoe_ddp_xid;
 627                 FCOE_NETDEV_DBG(netdev, "Supports LRO for max xid 0x%x\n",
 628                                 lport->lro_xid);
 629         }
 630         skb_queue_head_init(&port->fcoe_pending_queue);
 631         port->fcoe_pending_queue_active = 0;
 632         setup_timer(&port->timer, fcoe_queue_timer, (unsigned long)lport);
 633
 634         if (!lport->vport) {
 635                 /*
 636                  * Use NAA 1&2 (FC-FS Rev. 2.0, Sec. 15) to generate WWNN/WWPN:
 637                  * For WWNN, we use NAA 1 w/ bit 27-16 of word 0 as 0.
 638                  * For WWPN, we use NAA 2 w/ bit 27-16 of word 0 from VLAN ID
 639                  */
 640                 if (netdev->priv_flags & IFF_802_1Q_VLAN)
 641                         vid = vlan_dev_vlan_id(netdev);
 642
 643                 if (fcoe_get_wwn(netdev, &wwnn, NETDEV_FCOE_WWNN))
 644                         wwnn = fcoe_wwn_from_mac(fcoe->ctlr.ctl_src_addr, 1, 0);
 645                 fc_set_wwnn(lport, wwnn);
 646                 if (fcoe_get_wwn(netdev, &wwpn, NETDEV_FCOE_WWPN))
 647                         wwpn = fcoe_wwn_from_mac(fcoe->ctlr.ctl_src_addr,
 648                                                  2, vid);
 649                 fc_set_wwpn(lport, wwpn);
 650         }
 651
 652         return 0;
 653 }
 654
 655 /**
 656  * fcoe_shost_config() - Set up the SCSI host associated with a local port
 657  * @lport: The local port
 658  * @shost: The SCSI host to associate with the local port
 659  * @dev:   The device associated with the SCSI host
 660  *
 661  * Must be called after fcoe_lport_config() and fcoe_netdev_config()
 662  *
 663  * Returns: 0 for success
 664  */
 665 static int fcoe_shost_config(struct fc_lport *lport, struct Scsi_Host *shost,
 666                              struct device *dev)
 667 {
 668         int rc = 0;
 669
 670         /* lport scsi host config */
 671         lport->host->max_lun = FCOE_MAX_LUN;
 672         lport->host->max_id = FCOE_MAX_FCP_TARGET;
 673         lport->host->max_channel = 0;
 674         if (lport->vport)
 675                 lport->host->transportt = fcoe_vport_transport_template;
 676         else
 677                 lport->host->transportt = fcoe_transport_template;
 678
 679         /* add the new host to the SCSI-ml */
 680         rc = scsi_add_host(lport->host, dev);
 681         if (rc) {
 682                 FCOE_NETDEV_DBG(fcoe_netdev(lport), "fcoe_shost_config: "
 683                                 "error on scsi_add_host\n");
 684                 return rc;
 685         }
 686
 687         if (!lport->vport)
 688                 fc_host_max_npiv_vports(lport->host) = USHORT_MAX;
 689
 690         snprintf(fc_host_symbolic_name(lport->host), FC_SYMBOLIC_NAME_SIZE,
 691                  "%s v%s over %s", FCOE_NAME, FCOE_VERSION,
 692                  fcoe_netdev(lport)->name);
 693
 694         return 0;
 695 }
 696
 697 /**
 698  * fcoe_oem_match() - The match routine for the offloaded exchange manager
 699  * @fp: The I/O frame
 700  *
 701  * This routine will be associated with an exchange manager (EM). When
 702  * the libfc exchange handling code is looking for an EM to use it will
 703  * call this routine and pass it the frame that it wishes to send. This
 704  * routine will return True if the associated EM is to be used and False
 705  * if the echange code should continue looking for an EM.
 706  *
 707  * The offload EM that this routine is associated with will handle any
 708  * packets that are for SCSI read requests.
 709  *
 710  * Returns: True for read types I/O, otherwise returns false.
 711  */
 712 bool fcoe_oem_match(struct fc_frame *fp)
 713 {
 714         return fc_fcp_is_read(fr_fsp(fp)) &&
 715                 (fr_fsp(fp)->data_len > fcoe_ddp_min);
 716 }
 717
 718 /**
 719  * fcoe_em_config() - Allocate and configure an exchange manager
 720  * @lport: The local port that the new EM will be associated with
 721  *
 722  * Returns: 0 on success
 723  */
 724 static inline int fcoe_em_config(struct fc_lport *lport)
 725 {
 726         struct fcoe_port *port = lport_priv(lport);
 727         struct fcoe_interface *fcoe = port->fcoe;
 728         struct fcoe_interface *oldfcoe = NULL;
 729         struct net_device *old_real_dev, *cur_real_dev;
 730         u16 min_xid = FCOE_MIN_XID;
 731         u16 max_xid = FCOE_MAX_XID;
 732
 733         /*
 734          * Check if need to allocate an em instance for
 735          * offload exchange ids to be shared across all VN_PORTs/lport.
 736          */
 737         if (!lport->lro_enabled || !lport->lro_xid ||
 738             (lport->lro_xid >= max_xid)) {
 739                 lport->lro_xid = 0;
 740                 goto skip_oem;
 741         }
 742
 743         /*
 744          * Reuse existing offload em instance in case
 745          * it is already allocated on real eth device
 746          */
 747         if (fcoe->netdev->priv_flags & IFF_802_1Q_VLAN)
 748                 cur_real_dev = vlan_dev_real_dev(fcoe->netdev);
 749         else
 750                 cur_real_dev = fcoe->netdev;
 751
 752         list_for_each_entry(oldfcoe, &fcoe_hostlist, list) {
 753                 if (oldfcoe->netdev->priv_flags & IFF_802_1Q_VLAN)
 754                         old_real_dev = vlan_dev_real_dev(oldfcoe->netdev);
 755                 else
 756                         old_real_dev = oldfcoe->netdev;
 757
 758                 if (cur_real_dev == old_real_dev) {
 759                         fcoe->oem = oldfcoe->oem;
 760                         break;
 761                 }
 762         }
 763
 764         if (fcoe->oem) {
 765                 if (!fc_exch_mgr_add(lport, fcoe->oem, fcoe_oem_match)) {
 766                         printk(KERN_ERR "fcoe_em_config: failed to add "
 767                                "offload em:%p on interface:%s\n",
 768                                fcoe->oem, fcoe->netdev->name);
 769                         return -ENOMEM;
 770                 }
 771         } else {
 772                 fcoe->oem = fc_exch_mgr_alloc(lport, FC_CLASS_3,
 773                                               FCOE_MIN_XID, lport->lro_xid,
 774                                               fcoe_oem_match);
 775                 if (!fcoe->oem) {
 776                         printk(KERN_ERR "fcoe_em_config: failed to allocate "
 777                                "em for offload exches on interface:%s\n",
 778                                fcoe->netdev->name);
 779                         return -ENOMEM;
 780                 }
 781         }
 782
 783         /*
 784          * Exclude offload EM xid range from next EM xid range.
 785          */
 786         min_xid += lport->lro_xid + 1;
 787
 788 skip_oem:
 789         if (!fc_exch_mgr_alloc(lport, FC_CLASS_3, min_xid, max_xid, NULL)) {
 790                 printk(KERN_ERR "fcoe_em_config: failed to "
 791                        "allocate em on interface %s\n", fcoe->netdev->name);
 792                 return -ENOMEM;
 793         }
 794
 795         return 0;
 796 }
 797
 798 /**
 799  * fcoe_if_destroy() - Tear down a SW FCoE instance
 800  * @lport: The local port to be destroyed
 801  */
 802 static void fcoe_if_destroy(struct fc_lport *lport)
 803 {
 804         struct fcoe_port *port = lport_priv(lport);
 805         struct fcoe_interface *fcoe = port->fcoe;
 806         struct net_device *netdev = fcoe->netdev;
 807
 808         FCOE_NETDEV_DBG(netdev, "Destroying interface\n");
 809
 810         /* Logout of the fabric */
 811         fc_fabric_logoff(lport);
 812
 813         /* Cleanup the fc_lport */
 814         fc_lport_destroy(lport);
 815         fc_fcp_destroy(lport);
 816
 817         /* Stop the transmit retry timer */
 818         del_timer_sync(&port->timer);
 819
 820         /* Free existing transmit skbs */
 821         fcoe_clean_pending_queue(lport);
 822
 823         rtnl_lock();
 824         if (!is_zero_ether_addr(port->data_src_addr))
 825                 dev_unicast_delete(netdev, port->data_src_addr);
 826         rtnl_unlock();
 827
 828         /* receives may not be stopped until after this */
 829         fcoe_interface_put(fcoe);
 830
 831         /* Free queued packets for the per-CPU receive threads */
 832         fcoe_percpu_clean(lport);
 833
 834         /* Detach from the scsi-ml */
 835         fc_remove_host(lport->host);
 836         scsi_remove_host(lport->host);
 837
 838         /* There are no more rports or I/O, free the EM */
 839         fc_exch_mgr_free(lport);
 840
 841         /* Free memory used by statistical counters */
 842         fc_lport_free_stats(lport);
 843
 844         /* Release the Scsi_Host */
 845         scsi_host_put(lport->host);
 846 }
 847
 848 /**
 849  * fcoe_ddp_setup() - Call a LLD's ddp_setup through the net device
 850  * @lport: The local port to setup DDP for
 851  * @xid:   The exchange ID for this DDP transfer
 852  * @sgl:   The scatterlist describing this transfer
 853  * @sgc:   The number of sg items
 854  *
 855  * Returns: 0 if the DDP context was not configured
 856  */
 857 static int fcoe_ddp_setup(struct fc_lport *lport, u16 xid,
 858                           struct scatterlist *sgl, unsigned int sgc)
 859 {
 860         struct net_device *netdev = fcoe_netdev(lport);
 861
 862         if (netdev->netdev_ops->ndo_fcoe_ddp_setup)
 863                 return netdev->netdev_ops->ndo_fcoe_ddp_setup(netdev,
 864                                                               xid, sgl,
 865                                                               sgc);
 866
 867         return 0;
 868 }
 869
 870 /**
 871  * fcoe_ddp_done() - Call a LLD's ddp_done through the net device
 872  * @lport: The local port to complete DDP on
 873  * @xid:   The exchange ID for this DDP transfer
 874  *
 875  * Returns: the length of data that have been completed by DDP
 876  */
 877 static int fcoe_ddp_done(struct fc_lport *lport, u16 xid)
 878 {
 879         struct net_device *netdev = fcoe_netdev(lport);
 880
 881         if (netdev->netdev_ops->ndo_fcoe_ddp_done)
 882                 return netdev->netdev_ops->ndo_fcoe_ddp_done(netdev, xid);
 883         return 0;
 884 }
 885
 886 /**
 887  * fcoe_if_create() - Create a FCoE instance on an interface
 888  * @fcoe:   The FCoE interface to create a local port on
 889  * @parent: The device pointer to be the parent in sysfs for the SCSI host
 890  * @npiv:   Indicates if the port is a vport or not
 891  *
 892  * Creates a fc_lport instance and a Scsi_Host instance and configure them.
 893  *
 894  * Returns: The allocated fc_lport or an error pointer
 895  */
 896 static struct fc_lport *fcoe_if_create(struct fcoe_interface *fcoe,
 897                                        struct device *parent, int npiv)
 898 {
 899         struct net_device *netdev = fcoe->netdev;
 900         struct fc_lport *lport = NULL;
 901         struct fcoe_port *port;
 902         struct Scsi_Host *shost;
 903         int rc;
 904         /*
 905          * parent is only a vport if npiv is 1,
 906          * but we'll only use vport in that case so go ahead and set it
 907          */
 908         struct fc_vport *vport = dev_to_vport(parent);
 909
 910         FCOE_NETDEV_DBG(netdev, "Create Interface\n");
 911
 912         if (!npiv) {
 913                 lport = libfc_host_alloc(&fcoe_shost_template,
 914                                          sizeof(struct fcoe_port));
 915         } else  {
 916                 lport = libfc_vport_create(vport,
 917                                            sizeof(struct fcoe_port));
 918         }
 919         if (!lport) {
 920                 FCOE_NETDEV_DBG(netdev, "Could not allocate host structure\n");
 921                 rc = -ENOMEM;
 922                 goto out;
 923         }
 924         shost = lport->host;
 925         port = lport_priv(lport);
 926         port->lport = lport;
 927         port->fcoe = fcoe;
 928         INIT_WORK(&port->destroy_work, fcoe_destroy_work);
 929
 930         /* configure a fc_lport including the exchange manager */
 931         rc = fcoe_lport_config(lport);
 932         if (rc) {
 933                 FCOE_NETDEV_DBG(netdev, "Could not configure lport for the "
 934                                 "interface\n");
 935                 goto out_host_put;
 936         }
 937
 938         if (npiv) {
 939                 FCOE_NETDEV_DBG(netdev, "Setting vport names, 0x%llX 0x%llX\n",
 940                                 vport->node_name, vport->port_name);
 941                 fc_set_wwnn(lport, vport->node_name);
 942                 fc_set_wwpn(lport, vport->port_name);
 943         }
 944
 945         /* configure lport network properties */
 946         rc = fcoe_netdev_config(lport, netdev);
 947         if (rc) {
 948                 FCOE_NETDEV_DBG(netdev, "Could not configure netdev for the "
 949                                 "interface\n");
 950                 goto out_lp_destroy;
 951         }
 952
 953         /* configure lport scsi host properties */
 954         rc = fcoe_shost_config(lport, shost, parent);
 955         if (rc) {
 956                 FCOE_NETDEV_DBG(netdev, "Could not configure shost for the "
 957                                 "interface\n");
 958                 goto out_lp_destroy;
 959         }
 960
 961         /* Initialize the library */
 962         rc = fcoe_libfc_config(lport, &fcoe_libfc_fcn_templ);
 963         if (rc) {
 964                 FCOE_NETDEV_DBG(netdev, "Could not configure libfc for the "
 965                                 "interface\n");
 966                 goto out_lp_destroy;
 967         }
 968
 969         if (!npiv) {
 970                 /*
 971                  * fcoe_em_alloc() and fcoe_hostlist_add() both
 972                  * need to be atomic with respect to other changes to the
 973                  * hostlist since fcoe_em_alloc() looks for an existing EM
 974                  * instance on host list updated by fcoe_hostlist_add().
 975                  *
 976                  * This is currently handled through the fcoe_config_mutex
 977                  * begin held.
 978                  */
 979
 980                 /* lport exch manager allocation */
 981                 rc = fcoe_em_config(lport);
 982                 if (rc) {
 983                         FCOE_NETDEV_DBG(netdev, "Could not configure the EM "
 984                                         "for the interface\n");
 985                         goto out_lp_destroy;
 986                 }
 987         }
 988
 989         fcoe_interface_get(fcoe);
 990         return lport;
 991
 992 out_lp_destroy:
 993         fc_exch_mgr_free(lport);
 994 out_host_put:
 995         scsi_host_put(lport->host);
 996 out:
 997         return ERR_PTR(rc);
 998 }
 999
1000 /**
1001  * fcoe_if_init() - Initialization routine for fcoe.ko
1002  *
1003  * Attaches the SW FCoE transport to the FC transport
1004  *
1005  * Returns: 0 on success
1006  */
1007 static int __init fcoe_if_init(void)
1008 {
1009         /* attach to scsi transport */
1010         fcoe_transport_template = fc_attach_transport(&fcoe_transport_function);
1011         fcoe_vport_transport_template =
1012                 fc_attach_transport(&fcoe_vport_transport_function);
1013
1014         if (!fcoe_transport_template) {
1015                 printk(KERN_ERR "fcoe: Failed to attach to the FC transport\n");
1016                 return -ENODEV;
1017         }
1018
1019         return 0;
1020 }
1021
1022 /**
1023  * fcoe_if_exit() - Tear down fcoe.ko
1024  *
1025  * Detaches the SW FCoE transport from the FC transport
1026  *
1027  * Returns: 0 on success
1028  */
1029 int __exit fcoe_if_exit(void)
1030 {
1031         fc_release_transport(fcoe_transport_template);
1032         fc_release_transport(fcoe_vport_transport_template);
1033         fcoe_transport_template = NULL;
1034         fcoe_vport_transport_template = NULL;
1035         return 0;
1036 }
1037
1038 /**
1039  * fcoe_percpu_thread_create() - Create a receive thread for an online CPU
1040  * @cpu: The CPU index of the CPU to create a receive thread for
1041  */
1042 static void fcoe_percpu_thread_create(unsigned int cpu)
1043 {
1044         struct fcoe_percpu_s *p;
1045         struct task_struct *thread;
1046
1047         p = &per_cpu(fcoe_percpu, cpu);
1048
1049         thread = kthread_create(fcoe_percpu_receive_thread,
1050                                 (void *)p, "fcoethread/%d", cpu);
1051
1052         if (likely(!IS_ERR(thread))) {
1053                 kthread_bind(thread, cpu);
1054                 wake_up_process(thread);
1055
1056                 spin_lock_bh(&p->fcoe_rx_list.lock);
1057                 p->thread = thread;
1058                 spin_unlock_bh(&p->fcoe_rx_list.lock);
1059         }
1060 }
1061
1062 /**
1063  * fcoe_percpu_thread_destroy() - Remove the receive thread of a CPU
1064  * @cpu: The CPU index of the CPU whose receive thread is to be destroyed
1065  *
1066  * Destroys a per-CPU Rx thread. Any pending skbs are moved to the
1067  * current CPU's Rx thread. If the thread being destroyed is bound to
1068  * the CPU processing this context the skbs will be freed.
1069  */
1070 static void fcoe_percpu_thread_destroy(unsigned int cpu)
1071 {
1072         struct fcoe_percpu_s *p;
1073         struct task_struct *thread;
1074         struct page *crc_eof;
1075         struct sk_buff *skb;
1076 #ifdef CONFIG_SMP
1077         struct fcoe_percpu_s *p0;
1078         unsigned targ_cpu = get_cpu();
1079 #endif /* CONFIG_SMP */
1080
1081         FCOE_DBG("Destroying receive thread for CPU %d\n", cpu);
1082
1083         /* Prevent any new skbs from being queued for this CPU. */
1084         p = &per_cpu(fcoe_percpu, cpu);
1085         spin_lock_bh(&p->fcoe_rx_list.lock);
1086         thread = p->thread;
1087         p->thread = NULL;
1088         crc_eof = p->crc_eof_page;
1089         p->crc_eof_page = NULL;
1090         p->crc_eof_offset = 0;
1091         spin_unlock_bh(&p->fcoe_rx_list.lock);
1092
1093 #ifdef CONFIG_SMP
1094         /*
1095          * Don't bother moving the skb's if this context is running
1096          * on the same CPU that is having its thread destroyed. This
1097          * can easily happen when the module is removed.
1098          */
1099         if (cpu != targ_cpu) {
1100                 p0 = &per_cpu(fcoe_percpu, targ_cpu);
1101                 spin_lock_bh(&p0->fcoe_rx_list.lock);
1102                 if (p0->thread) {
1103                         FCOE_DBG("Moving frames from CPU %d to CPU %d\n",
1104                                  cpu, targ_cpu);
1105
1106                         while ((skb = __skb_dequeue(&p->fcoe_rx_list)) != NULL)
1107                                 __skb_queue_tail(&p0->fcoe_rx_list, skb);
1108                         spin_unlock_bh(&p0->fcoe_rx_list.lock);
1109                 } else {
1110                         /*
1111                          * The targeted CPU is not initialized and cannot accept
1112                          * new  skbs. Unlock the targeted CPU and drop the skbs
1113                          * on the CPU that is going offline.
1114                          */
1115                         while ((skb = __skb_dequeue(&p->fcoe_rx_list)) != NULL)
1116                                 kfree_skb(skb);
1117                         spin_unlock_bh(&p0->fcoe_rx_list.lock);
1118                 }
1119         } else {
1120                 /*
1121                  * This scenario occurs when the module is being removed
1122                  * and all threads are being destroyed. skbs will continue
1123                  * to be shifted from the CPU thread that is being removed
1124                  * to the CPU thread associated with the CPU that is processing
1125                  * the module removal. Once there is only one CPU Rx thread it
1126                  * will reach this case and we will drop all skbs and later
1127                  * stop the thread.
1128                  */
1129                 spin_lock_bh(&p->fcoe_rx_list.lock);
1130                 while ((skb = __skb_dequeue(&p->fcoe_rx_list)) != NULL)
1131                         kfree_skb(skb);
1132                 spin_unlock_bh(&p->fcoe_rx_list.lock);
1133         }
1134         put_cpu();
1135 #else
1136         /*
1137          * This a non-SMP scenario where the singular Rx thread is
1138          * being removed. Free all skbs and stop the thread.
1139          */
1140         spin_lock_bh(&p->fcoe_rx_list.lock);
1141         while ((skb = __skb_dequeue(&p->fcoe_rx_list)) != NULL)
1142                 kfree_skb(skb);
1143         spin_unlock_bh(&p->fcoe_rx_list.lock);
1144 #endif
1145
1146         if (thread)
1147                 kthread_stop(thread);
1148
1149         if (crc_eof)
1150                 put_page(crc_eof);
1151 }
1152
1153 /**
1154  * fcoe_cpu_callback() - Handler for CPU hotplug events
1155  * @nfb:    The callback data block
1156  * @action: The event triggering the callback
1157  * @hcpu:   The index of the CPU that the event is for
1158  *
1159  * This creates or destroys per-CPU data for fcoe
1160  *
1161  * Returns NOTIFY_OK always.
1162  */
1163 static int fcoe_cpu_callback(struct notifier_block *nfb,
1164                              unsigned long action, void *hcpu)
1165 {
1166         unsigned cpu = (unsigned long)hcpu;
1167
1168         switch (action) {
1169         case CPU_ONLINE:
1170         case CPU_ONLINE_FROZEN:
1171                 FCOE_DBG("CPU %x online: Create Rx thread\n", cpu);
1172                 fcoe_percpu_thread_create(cpu);
1173                 break;
1174         case CPU_DEAD:
1175         case CPU_DEAD_FROZEN:
1176                 FCOE_DBG("CPU %x offline: Remove Rx thread\n", cpu);
1177                 fcoe_percpu_thread_destroy(cpu);
1178                 break;
1179         default:
1180                 break;
1181         }
1182         return NOTIFY_OK;
1183 }
1184
1185 /**
1186  * fcoe_rcv() - Receive packets from a net device
1187  * @skb:    The received packet
1188  * @netdev: The net device that the packet was received on
1189  * @ptype:  The packet type context
1190  * @olddev: The last device net device
1191  *
1192  * This routine is called by NET_RX_SOFTIRQ. It receives a packet, builds a
1193  * FC frame and passes the frame to libfc.
1194  *
1195  * Returns: 0 for success
1196  */
1197 int fcoe_rcv(struct sk_buff *skb, struct net_device *netdev,
1198              struct packet_type *ptype, struct net_device *olddev)
1199 {
1200         struct fc_lport *lport;
1201         struct fcoe_rcv_info *fr;
1202         struct fcoe_interface *fcoe;
1203         struct fc_frame_header *fh;
1204         struct fcoe_percpu_s *fps;
1205         unsigned int cpu;
1206
1207         fcoe = container_of(ptype, struct fcoe_interface, fcoe_packet_type);
1208         lport = fcoe->ctlr.lp;
1209         if (unlikely(!lport)) {
1210                 FCOE_NETDEV_DBG(netdev, "Cannot find hba structure");
1211                 goto err2;
1212         }
1213         if (!lport->link_up)
1214                 goto err2;
1215
1216         FCOE_NETDEV_DBG(netdev, "skb_info: len:%d data_len:%d head:%p "
1217                         "data:%p tail:%p end:%p sum:%d dev:%s",
1218                         skb->len, skb->data_len, skb->head, skb->data,
1219                         skb_tail_pointer(skb), skb_end_pointer(skb),
1220                         skb->csum, skb->dev ? skb->dev->name : "<NULL>");
1221
1222         /* check for FCOE packet type */
1223         if (unlikely(eth_hdr(skb)->h_proto != htons(ETH_P_FCOE))) {
1224                 FCOE_NETDEV_DBG(netdev, "Wrong FC type frame");
1225                 goto err;
1226         }
1227
1228         /*
1229          * Check for minimum frame length, and make sure required FCoE
1230          * and FC headers are pulled into the linear data area.
1231          */
1232         if (unlikely((skb->len < FCOE_MIN_FRAME) ||
1233                      !pskb_may_pull(skb, FCOE_HEADER_LEN)))
1234                 goto err;
1235
1236         skb_set_transport_header(skb, sizeof(struct fcoe_hdr));
1237         fh = (struct fc_frame_header *) skb_transport_header(skb);
1238
1239         fr = fcoe_dev_from_skb(skb);
1240         fr->fr_dev = lport;
1241         fr->ptype = ptype;
1242
1243         /*
1244          * In case the incoming frame's exchange is originated from
1245          * the initiator, then received frame's exchange id is ANDed
1246          * with fc_cpu_mask bits to get the same cpu on which exchange
1247          * was originated, otherwise just use the current cpu.
1248          */
1249         if (ntoh24(fh->fh_f_ctl) & FC_FC_EX_CTX)
1250                 cpu = ntohs(fh->fh_ox_id) & fc_cpu_mask;
1251         else
1252                 cpu = smp_processor_id();
1253
1254         fps = &per_cpu(fcoe_percpu, cpu);
1255         spin_lock_bh(&fps->fcoe_rx_list.lock);
1256         if (unlikely(!fps->thread)) {
1257                 /*
1258                  * The targeted CPU is not ready, let's target
1259                  * the first CPU now. For non-SMP systems this
1260                  * will check the same CPU twice.
1261                  */
1262                 FCOE_NETDEV_DBG(netdev, "CPU is online, but no receive thread "
1263                                 "ready for incoming skb- using first online "
1264                                 "CPU.\n");
1265
1266                 spin_unlock_bh(&fps->fcoe_rx_list.lock);
1267                 cpu = cpumask_first(cpu_online_mask);
1268                 fps = &per_cpu(fcoe_percpu, cpu);
1269                 spin_lock_bh(&fps->fcoe_rx_list.lock);
1270                 if (!fps->thread) {
1271                         spin_unlock_bh(&fps->fcoe_rx_list.lock);
1272                         goto err;
1273                 }
1274         }
1275
1276         /*
1277          * We now have a valid CPU that we're targeting for
1278          * this skb. We also have this receive thread locked,
1279          * so we're free to queue skbs into it's queue.
1280          */
1281
1282         /* If this is a SCSI-FCP frame, and this is already executing on the
1283          * correct CPU, and the queue for this CPU is empty, then go ahead
1284          * and process the frame directly in the softirq context.
1285          * This lets us process completions without context switching from the
1286          * NET_RX softirq, to our receive processing thread, and then back to
1287          * BLOCK softirq context.
1288          */
1289         if (fh->fh_type == FC_TYPE_FCP &&
1290             cpu == smp_processor_id() &&
1291             skb_queue_empty(&fps->fcoe_rx_list)) {
1292                 spin_unlock_bh(&fps->fcoe_rx_list.lock);
1293                 fcoe_recv_frame(skb);
1294         } else {
1295                 __skb_queue_tail(&fps->fcoe_rx_list, skb);
1296                 if (fps->fcoe_rx_list.qlen == 1)
1297                         wake_up_process(fps->thread);
1298                 spin_unlock_bh(&fps->fcoe_rx_list.lock);
1299         }
1300
1301         return 0;
1302 err:
1303         per_cpu_ptr(lport->dev_stats, get_cpu())->ErrorFrames++;
1304         put_cpu();
1305 err2:
1306         kfree_skb(skb);
1307         return -1;
1308 }
1309
1310 /**
1311  * fcoe_start_io() - Start FCoE I/O
1312  * @skb: The packet to be transmitted
1313  *
1314  * This routine is called from the net device to start transmitting
1315  * FCoE packets.
1316  *
1317  * Returns: 0 for success
1318  */
1319 static inline int fcoe_start_io(struct sk_buff *skb)
1320 {
1321         struct sk_buff *nskb;
1322         int rc;
1323
1324         nskb = skb_clone(skb, GFP_ATOMIC);
1325         rc = dev_queue_xmit(nskb);
1326         if (rc != 0)
1327                 return rc;
1328         kfree_skb(skb);
1329         return 0;
1330 }
1331
1332 /**
1333  * fcoe_get_paged_crc_eof() - Allocate a page to be used for the trailer CRC
1334  * @skb:  The packet to be transmitted
1335  * @tlen: The total length of the trailer
1336  *
1337  * This routine allocates a page for frame trailers. The page is re-used if
1338  * there is enough room left on it for the current trailer. If there isn't
1339  * enough buffer left a new page is allocated for the trailer. Reference to
1340  * the page from this function as well as the skbs using the page fragments
1341  * ensure that the page is freed at the appropriate time.
1342  *
1343  * Returns: 0 for success
1344  */
1345 static int fcoe_get_paged_crc_eof(struct sk_buff *skb, int tlen)
1346 {
1347         struct fcoe_percpu_s *fps;
1348         struct page *page;
1349
1350         fps = &get_cpu_var(fcoe_percpu);
1351         page = fps->crc_eof_page;
1352         if (!page) {
1353                 page = alloc_page(GFP_ATOMIC);
1354                 if (!page) {
1355                         put_cpu_var(fcoe_percpu);
1356                         return -ENOMEM;
1357                 }
1358                 fps->crc_eof_page = page;
1359                 fps->crc_eof_offset = 0;
1360         }
1361
1362         get_page(page);
1363         skb_fill_page_desc(skb, skb_shinfo(skb)->nr_frags, page,
1364                            fps->crc_eof_offset, tlen);
1365         skb->len += tlen;
1366         skb->data_len += tlen;
1367         skb->truesize += tlen;
1368         fps->crc_eof_offset += sizeof(struct fcoe_crc_eof);
1369
1370         if (fps->crc_eof_offset >= PAGE_SIZE) {
1371                 fps->crc_eof_page = NULL;
1372                 fps->crc_eof_offset = 0;
1373                 put_page(page);
1374         }
1375         put_cpu_var(fcoe_percpu);
1376         return 0;
1377 }
1378
1379 /**
1380  * fcoe_fc_crc() - Calculates the CRC for a given frame
1381  * @fp: The frame to be checksumed
1382  *
1383  * This uses crc32() routine to calculate the CRC for a frame
1384  *
1385  * Return: The 32 bit CRC value
1386  */
1387 u32 fcoe_fc_crc(struct fc_frame *fp)
1388 {
1389         struct sk_buff *skb = fp_skb(fp);
1390         struct skb_frag_struct *frag;
1391         unsigned char *data;
1392         unsigned long off, len, clen;
1393         u32 crc;
1394         unsigned i;
1395
1396         crc = crc32(~0, skb->data, skb_headlen(skb));
1397
1398         for (i = 0; i < skb_shinfo(skb)->nr_frags; i++) {
1399                 frag = &skb_shinfo(skb)->frags[i];
1400                 off = frag->page_offset;
1401                 len = frag->size;
1402                 while (len > 0) {
1403                         clen = min(len, PAGE_SIZE - (off & ~PAGE_MASK));
1404                         data = kmap_atomic(frag->page + (off >> PAGE_SHIFT),
1405                                            KM_SKB_DATA_SOFTIRQ);
1406                         crc = crc32(crc, data + (off & ~PAGE_MASK), clen);
1407                         kunmap_atomic(data, KM_SKB_DATA_SOFTIRQ);
1408                         off += clen;
1409                         len -= clen;
1410                 }
1411         }
1412         return crc;
1413 }
1414
1415 /**
1416  * fcoe_xmit() - Transmit a FCoE frame
1417  * @lport: The local port that the frame is to be transmitted for
1418  * @fp:    The frame to be transmitted
1419  *
1420  * Return: 0 for success
1421  */
1422 int fcoe_xmit(struct fc_lport *lport, struct fc_frame *fp)
1423 {
1424         int wlen;
1425         u32 crc;
1426         struct ethhdr *eh;
1427         struct fcoe_crc_eof *cp;
1428         struct sk_buff *skb;
1429         struct fcoe_dev_stats *stats;
1430         struct fc_frame_header *fh;
1431         unsigned int hlen;              /* header length implies the version */
1432         unsigned int tlen;              /* trailer length */
1433         unsigned int elen;              /* eth header, may include vlan */
1434         struct fcoe_port *port = lport_priv(lport);
1435         struct fcoe_interface *fcoe = port->fcoe;
1436         u8 sof, eof;
1437         struct fcoe_hdr *hp;
1438
1439         WARN_ON((fr_len(fp) % sizeof(u32)) != 0);
1440
1441         fh = fc_frame_header_get(fp);
1442         skb = fp_skb(fp);
1443         wlen = skb->len / FCOE_WORD_TO_BYTE;
1444
1445         if (!lport->link_up) {
1446                 kfree_skb(skb);
1447                 return 0;
1448         }
1449
1450         if (unlikely(fh->fh_type == FC_TYPE_ELS) &&
1451             fcoe_ctlr_els_send(&fcoe->ctlr, lport, skb))
1452                 return 0;
1453
1454         sof = fr_sof(fp);
1455         eof = fr_eof(fp);
1456
1457         elen = sizeof(struct ethhdr);
1458         hlen = sizeof(struct fcoe_hdr);
1459         tlen = sizeof(struct fcoe_crc_eof);
1460         wlen = (skb->len - tlen + sizeof(crc)) / FCOE_WORD_TO_BYTE;
1461
1462         /* crc offload */
1463         if (likely(lport->crc_offload)) {
1464                 skb->ip_summed = CHECKSUM_PARTIAL;
1465                 skb->csum_start = skb_headroom(skb);
1466                 skb->csum_offset = skb->len;
1467                 crc = 0;
1468         } else {
1469                 skb->ip_summed = CHECKSUM_NONE;
1470                 crc = fcoe_fc_crc(fp);
1471         }
1472
1473         /* copy port crc and eof to the skb buff */
1474         if (skb_is_nonlinear(skb)) {
1475                 skb_frag_t *frag;
1476                 if (fcoe_get_paged_crc_eof(skb, tlen)) {
1477                         kfree_skb(skb);
1478                         return -ENOMEM;
1479                 }
1480                 frag = &skb_shinfo(skb)->frags[skb_shinfo(skb)->nr_frags - 1];
1481                 cp = kmap_atomic(frag->page, KM_SKB_DATA_SOFTIRQ)
1482                         + frag->page_offset;
1483         } else {
1484                 cp = (struct fcoe_crc_eof *)skb_put(skb, tlen);
1485         }
1486
1487         memset(cp, 0, sizeof(*cp));
1488         cp->fcoe_eof = eof;
1489         cp->fcoe_crc32 = cpu_to_le32(~crc);
1490
1491         if (skb_is_nonlinear(skb)) {
1492                 kunmap_atomic(cp, KM_SKB_DATA_SOFTIRQ);
1493                 cp = NULL;
1494         }
1495
1496         /* adjust skb network/transport offsets to match mac/fcoe/port */
1497         skb_push(skb, elen + hlen);
1498         skb_reset_mac_header(skb);
1499         skb_reset_network_header(skb);
1500         skb->mac_len = elen;
1501         skb->protocol = htons(ETH_P_FCOE);
1502         skb->dev = fcoe->netdev;
1503
1504         /* fill up mac and fcoe headers */
1505         eh = eth_hdr(skb);
1506         eh->h_proto = htons(ETH_P_FCOE);
1507         if (fcoe->ctlr.map_dest)
1508                 fc_fcoe_set_mac(eh->h_dest, fh->fh_d_id);
1509         else
1510                 /* insert GW address */
1511                 memcpy(eh->h_dest, fcoe->ctlr.dest_addr, ETH_ALEN);
1512
1513         if (unlikely(fcoe->ctlr.flogi_oxid != FC_XID_UNKNOWN))
1514                 memcpy(eh->h_source, fcoe->ctlr.ctl_src_addr, ETH_ALEN);
1515         else
1516                 memcpy(eh->h_source, port->data_src_addr, ETH_ALEN);
1517
1518         hp = (struct fcoe_hdr *)(eh + 1);
1519         memset(hp, 0, sizeof(*hp));
1520         if (FC_FCOE_VER)
1521                 FC_FCOE_ENCAPS_VER(hp, FC_FCOE_VER);
1522         hp->fcoe_sof = sof;
1523
1524         /* fcoe lso, mss is in max_payload which is non-zero for FCP data */
1525         if (lport->seq_offload && fr_max_payload(fp)) {
1526                 skb_shinfo(skb)->gso_type = SKB_GSO_FCOE;
1527                 skb_shinfo(skb)->gso_size = fr_max_payload(fp);
1528         } else {
1529                 skb_shinfo(skb)->gso_type = 0;
1530                 skb_shinfo(skb)->gso_size = 0;
1531         }
1532         /* update tx stats: regardless if LLD fails */
1533         stats = per_cpu_ptr(lport->dev_stats, get_cpu());
1534         stats->TxFrames++;
1535         stats->TxWords += wlen;
1536         put_cpu();
1537
1538         /* send down to lld */
1539         fr_dev(fp) = lport;
1540         if (port->fcoe_pending_queue.qlen)
1541                 fcoe_check_wait_queue(lport, skb);
1542         else if (fcoe_start_io(skb))
1543                 fcoe_check_wait_queue(lport, skb);
1544
1545         return 0;
1546 }
1547
1548 /**
1549  * fcoe_percpu_flush_done() - Indicate per-CPU queue flush completion
1550  * @skb: The completed skb (argument required by destructor)
1551  */
1552 static void fcoe_percpu_flush_done(struct sk_buff *skb)
1553 {
1554         complete(&fcoe_flush_completion);
1555 }
1556
1557 /**
1558  * fcoe_recv_frame() - process a single received frame
1559  * @skb: frame to process
1560  */
1561 static void fcoe_recv_frame(struct sk_buff *skb)
1562 {
1563         u32 fr_len;
1564         struct fc_lport *lport;
1565         struct fcoe_rcv_info *fr;
1566         struct fcoe_dev_stats *stats;
1567         struct fc_frame_header *fh;
1568         struct fcoe_crc_eof crc_eof;
1569         struct fc_frame *fp;
1570         struct fcoe_port *port;
1571         struct fcoe_hdr *hp;
1572
1573         fr = fcoe_dev_from_skb(skb);
1574         lport = fr->fr_dev;
1575         if (unlikely(!lport)) {
1576                 if (skb->destructor != fcoe_percpu_flush_done)
1577                         FCOE_NETDEV_DBG(skb->dev, "NULL lport in skb");
1578                 kfree_skb(skb);
1579                 return;
1580         }
1581
1582         FCOE_NETDEV_DBG(skb->dev, "skb_info: len:%d data_len:%d "
1583                         "head:%p data:%p tail:%p end:%p sum:%d dev:%s",
1584                         skb->len, skb->data_len,
1585                         skb->head, skb->data, skb_tail_pointer(skb),
1586                         skb_end_pointer(skb), skb->csum,
1587                         skb->dev ? skb->dev->name : "<NULL>");
1588
1589         port = lport_priv(lport);
1590         if (skb_is_nonlinear(skb))
1591                 skb_linearize(skb);     /* not ideal */
1592
1593         /*
1594          * Frame length checks and setting up the header pointers
1595          * was done in fcoe_rcv already.
1596          */
1597         hp = (struct fcoe_hdr *) skb_network_header(skb);
1598         fh = (struct fc_frame_header *) skb_transport_header(skb);
1599
1600         stats = per_cpu_ptr(lport->dev_stats, get_cpu());
1601         if (unlikely(FC_FCOE_DECAPS_VER(hp) != FC_FCOE_VER)) {
1602                 if (stats->ErrorFrames < 5)
1603                         printk(KERN_WARNING "fcoe: FCoE version "
1604                                "mismatch: The frame has "
1605                                "version %x, but the "
1606                                "initiator supports version "
1607                                "%x\n", FC_FCOE_DECAPS_VER(hp),
1608                                FC_FCOE_VER);
1609                 goto drop;
1610         }
1611
1612         skb_pull(skb, sizeof(struct fcoe_hdr));
1613         fr_len = skb->len - sizeof(struct fcoe_crc_eof);
1614
1615         stats->RxFrames++;
1616         stats->RxWords += fr_len / FCOE_WORD_TO_BYTE;
1617
1618         fp = (struct fc_frame *)skb;
1619         fc_frame_init(fp);
1620         fr_dev(fp) = lport;
1621         fr_sof(fp) = hp->fcoe_sof;
1622
1623         /* Copy out the CRC and EOF trailer for access */
1624         if (skb_copy_bits(skb, fr_len, &crc_eof, sizeof(crc_eof)))
1625                 goto drop;
1626         fr_eof(fp) = crc_eof.fcoe_eof;
1627         fr_crc(fp) = crc_eof.fcoe_crc32;
1628         if (pskb_trim(skb, fr_len))
1629                 goto drop;
1630
1631         /*
1632          * We only check CRC if no offload is available and if it is
1633          * it's solicited data, in which case, the FCP layer would
1634          * check it during the copy.
1635          */
1636         if (lport->crc_offload &&
1637             skb->ip_summed == CHECKSUM_UNNECESSARY)
1638                 fr_flags(fp) &= ~FCPHF_CRC_UNCHECKED;
1639         else
1640                 fr_flags(fp) |= FCPHF_CRC_UNCHECKED;
1641
1642         fh = fc_frame_header_get(fp);
1643         if ((fh->fh_r_ctl != FC_RCTL_DD_SOL_DATA ||
1644             fh->fh_type != FC_TYPE_FCP) &&
1645             (fr_flags(fp) & FCPHF_CRC_UNCHECKED)) {
1646                 if (le32_to_cpu(fr_crc(fp)) !=
1647                     ~crc32(~0, skb->data, fr_len)) {
1648                         if (stats->InvalidCRCCount < 5)
1649                                 printk(KERN_WARNING "fcoe: dropping "
1650                                        "frame with CRC error\n");
1651                         stats->InvalidCRCCount++;
1652                         goto drop;
1653                 }
1654                 fr_flags(fp) &= ~FCPHF_CRC_UNCHECKED;
1655         }
1656         put_cpu();
1657         fc_exch_recv(lport, fp);
1658         return;
1659
1660 drop:
1661         stats->ErrorFrames++;
1662         put_cpu();
1663         kfree_skb(skb);
1664 }
1665
1666 /**
1667  * fcoe_percpu_receive_thread() - The per-CPU packet receive thread
1668  * @arg: The per-CPU context
1669  *
1670  * Return: 0 for success
1671  */
1672 int fcoe_percpu_receive_thread(void *arg)
1673 {
1674         struct fcoe_percpu_s *p = arg;
1675         struct sk_buff *skb;
1676
1677         set_user_nice(current, -20);
1678
1679         while (!kthread_should_stop()) {
1680
1681                 spin_lock_bh(&p->fcoe_rx_list.lock);
1682                 while ((skb = __skb_dequeue(&p->fcoe_rx_list)) == NULL) {
1683                         set_current_state(TASK_INTERRUPTIBLE);
1684                         spin_unlock_bh(&p->fcoe_rx_list.lock);
1685                         schedule();
1686                         set_current_state(TASK_RUNNING);
1687                         if (kthread_should_stop())
1688                                 return 0;
1689                         spin_lock_bh(&p->fcoe_rx_list.lock);
1690                 }
1691                 spin_unlock_bh(&p->fcoe_rx_list.lock);
1692                 fcoe_recv_frame(skb);
1693         }
1694         return 0;
1695 }
1696
1697 /**
1698  * fcoe_check_wait_queue() - Attempt to clear the transmit backlog
1699  * @lport: The local port whose backlog is to be cleared
1700  *
1701  * This empties the wait_queue, dequeues the head of the wait_queue queue
1702  * and calls fcoe_start_io() for each packet. If all skb have been
1703  * transmitted it returns the qlen. If an error occurs it restores
1704  * wait_queue (to try again later) and returns -1.
1705  *
1706  * The wait_queue is used when the skb transmit fails. The failed skb
1707  * will go in the wait_queue which will be emptied by the timer function or
1708  * by the next skb transmit.
1709  */
1710 static void fcoe_check_wait_queue(struct fc_lport *lport, struct sk_buff *skb)
1711 {
1712         struct fcoe_port *port = lport_priv(lport);
1713         int rc;
1714
1715         spin_lock_bh(&port->fcoe_pending_queue.lock);
1716
1717         if (skb)
1718                 __skb_queue_tail(&port->fcoe_pending_queue, skb);
1719
1720         if (port->fcoe_pending_queue_active)
1721                 goto out;
1722         port->fcoe_pending_queue_active = 1;
1723
1724         while (port->fcoe_pending_queue.qlen) {
1725                 /* keep qlen > 0 until fcoe_start_io succeeds */
1726                 port->fcoe_pending_queue.qlen++;
1727                 skb = __skb_dequeue(&port->fcoe_pending_queue);
1728
1729                 spin_unlock_bh(&port->fcoe_pending_queue.lock);
1730                 rc = fcoe_start_io(skb);
1731                 spin_lock_bh(&port->fcoe_pending_queue.lock);
1732
1733                 if (rc) {
1734                         __skb_queue_head(&port->fcoe_pending_queue, skb);
1735                         /* undo temporary increment above */
1736                         port->fcoe_pending_queue.qlen--;
1737                         break;
1738                 }
1739                 /* undo temporary increment above */
1740                 port->fcoe_pending_queue.qlen--;
1741         }
1742
1743         if (port->fcoe_pending_queue.qlen < FCOE_LOW_QUEUE_DEPTH)
1744                 lport->qfull = 0;
1745         if (port->fcoe_pending_queue.qlen && !timer_pending(&port->timer))
1746                 mod_timer(&port->timer, jiffies + 2);
1747         port->fcoe_pending_queue_active = 0;
1748 out:
1749         if (port->fcoe_pending_queue.qlen > FCOE_MAX_QUEUE_DEPTH)
1750                 lport->qfull = 1;
1751         spin_unlock_bh(&port->fcoe_pending_queue.lock);
1752         return;
1753 }
1754
1755 /**
1756  * fcoe_dev_setup() - Setup the link change notification interface
1757  */
1758 static void fcoe_dev_setup(void)
1759 {
1760         register_netdevice_notifier(&fcoe_notifier);
1761 }
1762
1763 /**
1764  * fcoe_dev_cleanup() - Cleanup the link change notification interface
1765  */
1766 static void fcoe_dev_cleanup(void)
1767 {
1768         unregister_netdevice_notifier(&fcoe_notifier);
1769 }
1770
1771 /**
1772  * fcoe_device_notification() - Handler for net device events
1773  * @notifier: The context of the notification
1774  * @event:    The type of event
1775  * @ptr:      The net device that the event was on
1776  *
1777  * This function is called by the Ethernet driver in case of link change event.
1778  *
1779  * Returns: 0 for success
1780  */
1781 static int fcoe_device_notification(struct notifier_block *notifier,
1782                                     ulong event, void *ptr)
1783 {
1784         struct fc_lport *lport = NULL;
1785         struct net_device *netdev = ptr;
1786         struct fcoe_interface *fcoe;
1787         struct fcoe_port *port;
1788         struct fcoe_dev_stats *stats;
1789         u32 link_possible = 1;
1790         u32 mfs;
1791         int rc = NOTIFY_OK;
1792
1793         list_for_each_entry(fcoe, &fcoe_hostlist, list) {
1794                 if (fcoe->netdev == netdev) {
1795                         lport = fcoe->ctlr.lp;
1796                         break;
1797                 }
1798         }
1799         if (!lport) {
1800                 rc = NOTIFY_DONE;
1801                 goto out;
1802         }
1803
1804         switch (event) {
1805         case NETDEV_DOWN:
1806         case NETDEV_GOING_DOWN:
1807                 link_possible = 0;
1808                 break;
1809         case NETDEV_UP:
1810         case NETDEV_CHANGE:
1811                 break;
1812         case NETDEV_CHANGEMTU:
1813                 if (netdev->features & NETIF_F_FCOE_MTU)
1814                         break;
1815                 mfs = netdev->mtu - (sizeof(struct fcoe_hdr) +
1816                                      sizeof(struct fcoe_crc_eof));
1817                 if (mfs >= FC_MIN_MAX_FRAME)
1818                         fc_set_mfs(lport, mfs);
1819                 break;
1820         case NETDEV_REGISTER:
1821                 break;
1822         case NETDEV_UNREGISTER:
1823                 list_del(&fcoe->list);
1824                 port = lport_priv(fcoe->ctlr.lp);
1825                 fcoe_interface_cleanup(fcoe);
1826                 schedule_work(&port->destroy_work);
1827                 goto out;
1828                 break;
1829         default:
1830                 FCOE_NETDEV_DBG(netdev, "Unknown event %ld "
1831                                 "from netdev netlink\n", event);
1832         }
1833         if (link_possible && !fcoe_link_ok(lport))
1834                 fcoe_ctlr_link_up(&fcoe->ctlr);
1835         else if (fcoe_ctlr_link_down(&fcoe->ctlr)) {
1836                 stats = per_cpu_ptr(lport->dev_stats, get_cpu());
1837                 stats->LinkFailureCount++;
1838                 put_cpu();
1839                 fcoe_clean_pending_queue(lport);
1840         }
1841 out:
1842         return rc;
1843 }
1844
1845 /**
1846  * fcoe_if_to_netdev() - Parse a name buffer to get a net device
1847  * @buffer: The name of the net device
1848  *
1849  * Returns: NULL or a ptr to net_device
1850  */
1851 static struct net_device *fcoe_if_to_netdev(const char *buffer)
1852 {
1853         char *cp;
1854         char ifname[IFNAMSIZ + 2];
1855
1856         if (buffer) {
1857                 strlcpy(ifname, buffer, IFNAMSIZ);
1858                 cp = ifname + strlen(ifname);
1859                 while (--cp >= ifname && *cp == '\n')
1860                         *cp = '\0';
1861                 return dev_get_by_name(&init_net, ifname);
1862         }
1863         return NULL;
1864 }
1865
1866 /**
1867  * fcoe_disable() - Disables a FCoE interface
1868  * @buffer: The name of the Ethernet interface to be disabled
1869  * @kp:     The associated kernel parameter
1870  *
1871  * Called from sysfs.
1872  *
1873  * Returns: 0 for success
1874  */
1875 static int fcoe_disable(const char *buffer, struct kernel_param *kp)
1876 {
1877         struct fcoe_interface *fcoe;
1878         struct net_device *netdev;
1879         int rc = 0;
1880
1881         mutex_lock(&fcoe_config_mutex);
1882 #ifdef CONFIG_FCOE_MODULE
1883         /*
1884          * Make sure the module has been initialized, and is not about to be
1885          * removed.  Module paramter sysfs files are writable before the
1886          * module_init function is called and after module_exit.
1887          */
1888         if (THIS_MODULE->state != MODULE_STATE_LIVE) {
1889                 rc = -ENODEV;
1890                 goto out_nodev;
1891         }
1892 #endif
1893
1894         netdev = fcoe_if_to_netdev(buffer);
1895         if (!netdev) {
1896                 rc = -ENODEV;
1897                 goto out_nodev;
1898         }
1899
1900         rtnl_lock();
1901         fcoe = fcoe_hostlist_lookup_port(netdev);
1902         rtnl_unlock();
1903
1904         if (fcoe) {
1905                 fc_fabric_logoff(fcoe->ctlr.lp);
1906                 fcoe_ctlr_link_down(&fcoe->ctlr);
1907         } else
1908                 rc = -ENODEV;
1909
1910         dev_put(netdev);
1911 out_nodev:
1912         mutex_unlock(&fcoe_config_mutex);
1913         return rc;
1914 }
1915
1916 /**
1917  * fcoe_enable() - Enables a FCoE interface
1918  * @buffer: The name of the Ethernet interface to be enabled
1919  * @kp:     The associated kernel parameter
1920  *
1921  * Called from sysfs.
1922  *
1923  * Returns: 0 for success
1924  */
1925 static int fcoe_enable(const char *buffer, struct kernel_param *kp)
1926 {
1927         struct fcoe_interface *fcoe;
1928         struct net_device *netdev;
1929         int rc = 0;
1930
1931         mutex_lock(&fcoe_config_mutex);
1932 #ifdef CONFIG_FCOE_MODULE
1933         /*
1934          * Make sure the module has been initialized, and is not about to be
1935          * removed.  Module paramter sysfs files are writable before the
1936          * module_init function is called and after module_exit.
1937          */
1938         if (THIS_MODULE->state != MODULE_STATE_LIVE) {
1939                 rc = -ENODEV;
1940                 goto out_nodev;
1941         }
1942 #endif
1943
1944         netdev = fcoe_if_to_netdev(buffer);
1945         if (!netdev) {
1946                 rc = -ENODEV;
1947                 goto out_nodev;
1948         }
1949
1950         rtnl_lock();
1951         fcoe = fcoe_hostlist_lookup_port(netdev);
1952         rtnl_unlock();
1953
1954         if (fcoe) {
1955                 if (!fcoe_link_ok(fcoe->ctlr.lp))
1956                         fcoe_ctlr_link_up(&fcoe->ctlr);
1957                 rc = fc_fabric_login(fcoe->ctlr.lp);
1958         } else
1959                 rc = -ENODEV;
1960
1961         dev_put(netdev);
1962 out_nodev:
1963         mutex_unlock(&fcoe_config_mutex);
1964         return rc;
1965 }
1966
1967 /**
1968  * fcoe_destroy() - Destroy a FCoE interface
1969  * @buffer: The name of the Ethernet interface to be destroyed
1970  * @kp:     The associated kernel parameter
1971  *
1972  * Called from sysfs.
1973  *
1974  * Returns: 0 for success
1975  */
1976 static int fcoe_destroy(const char *buffer, struct kernel_param *kp)
1977 {
1978         struct fcoe_interface *fcoe;
1979         struct net_device *netdev;
1980         int rc = 0;
1981
1982         mutex_lock(&fcoe_config_mutex);
1983 #ifdef CONFIG_FCOE_MODULE
1984         /*
1985          * Make sure the module has been initialized, and is not about to be
1986          * removed.  Module paramter sysfs files are writable before the
1987          * module_init function is called and after module_exit.
1988          */
1989         if (THIS_MODULE->state != MODULE_STATE_LIVE) {
1990                 rc = -ENODEV;
1991                 goto out_nodev;
1992         }
1993 #endif
1994
1995         netdev = fcoe_if_to_netdev(buffer);
1996         if (!netdev) {
1997                 rc = -ENODEV;
1998                 goto out_nodev;
1999         }
2000
2001         rtnl_lock();
2002         fcoe = fcoe_hostlist_lookup_port(netdev);
2003         if (!fcoe) {
2004                 rtnl_unlock();
2005                 rc = -ENODEV;
2006                 goto out_putdev;
2007         }
2008         list_del(&fcoe->list);
2009         fcoe_interface_cleanup(fcoe);
2010         rtnl_unlock();
2011         fcoe_if_destroy(fcoe->ctlr.lp);
2012         module_put(THIS_MODULE);
2013
2014 out_putdev:
2015         dev_put(netdev);
2016 out_nodev:
2017         mutex_unlock(&fcoe_config_mutex);
2018         return rc;
2019 }
2020
2021 /**
2022  * fcoe_destroy_work() - Destroy a FCoE port in a deferred work context
2023  * @work: Handle to the FCoE port to be destroyed
2024  */
2025 static void fcoe_destroy_work(struct work_struct *work)
2026 {
2027         struct fcoe_port *port;
2028
2029         port = container_of(work, struct fcoe_port, destroy_work);
2030         mutex_lock(&fcoe_config_mutex);
2031         fcoe_if_destroy(port->lport);
2032         mutex_unlock(&fcoe_config_mutex);
2033 }
2034
2035 /**
2036  * fcoe_create() - Create a fcoe interface
2037  * @buffer: The name of the Ethernet interface to create on
2038  * @kp:     The associated kernel param
2039  *
2040  * Called from sysfs.
2041  *
2042  * Returns: 0 for success
2043  */
2044 static int fcoe_create(const char *buffer, struct kernel_param *kp)
2045 {
2046         int rc;
2047         struct fcoe_interface *fcoe;
2048         struct fc_lport *lport;
2049         struct net_device *netdev;
2050
2051         mutex_lock(&fcoe_config_mutex);
2052 #ifdef CONFIG_FCOE_MODULE
2053         /*
2054          * Make sure the module has been initialized, and is not about to be
2055          * removed.  Module paramter sysfs files are writable before the
2056          * module_init function is called and after module_exit.
2057          */
2058         if (THIS_MODULE->state != MODULE_STATE_LIVE) {
2059                 rc = -ENODEV;
2060                 goto out_nodev;
2061         }
2062 #endif
2063
2064         if (!try_module_get(THIS_MODULE)) {
2065                 rc = -EINVAL;
2066                 goto out_nomod;
2067         }
2068
2069         rtnl_lock();
2070         netdev = fcoe_if_to_netdev(buffer);
2071         if (!netdev) {
2072                 rc = -ENODEV;
2073                 goto out_nodev;
2074         }
2075
2076         /* look for existing lport */
2077         if (fcoe_hostlist_lookup(netdev)) {
2078                 rc = -EEXIST;
2079                 goto out_putdev;
2080         }
2081
2082         fcoe = fcoe_interface_create(netdev);
2083         if (!fcoe) {
2084                 rc = -ENOMEM;
2085                 goto out_putdev;
2086         }
2087
2088         lport = fcoe_if_create(fcoe, &netdev->dev, 0);
2089         if (IS_ERR(lport)) {
2090                 printk(KERN_ERR "fcoe: Failed to create interface (%s)\n",
2091                        netdev->name);
2092                 rc = -EIO;
2093                 fcoe_interface_cleanup(fcoe);
2094                 goto out_free;
2095         }
2096
2097         /* Make this the "master" N_Port */
2098         fcoe->ctlr.lp = lport;
2099
2100         /* add to lports list */
2101         fcoe_hostlist_add(lport);
2102
2103         /* start FIP Discovery and FLOGI */
2104         lport->boot_time = jiffies;
2105         fc_fabric_login(lport);
2106         if (!fcoe_link_ok(lport))
2107                 fcoe_ctlr_link_up(&fcoe->ctlr);
2108
2109         /*
2110          * Release from init in fcoe_interface_create(), on success lport
2111          * should be holding a reference taken in fcoe_if_create().
2112          */
2113         fcoe_interface_put(fcoe);
2114         dev_put(netdev);
2115         rtnl_unlock();
2116         mutex_unlock(&fcoe_config_mutex);
2117
2118         return 0;
2119 out_free:
2120         fcoe_interface_put(fcoe);
2121 out_putdev:
2122         dev_put(netdev);
2123 out_nodev:
2124         rtnl_unlock();
2125         module_put(THIS_MODULE);
2126 out_nomod:
2127         mutex_unlock(&fcoe_config_mutex);
2128         return rc;
2129 }
2130
2131 /**
2132  * fcoe_link_ok() - Check if the link is OK for a local port
2133  * @lport: The local port to check link on
2134  *
2135  * Any permanently-disqualifying conditions have been previously checked.
2136  * This also updates the speed setting, which may change with link for 100/1000.
2137  *
2138  * This function should probably be checking for PAUSE support at some point
2139  * in the future. Currently Per-priority-pause is not determinable using
2140  * ethtool, so we shouldn't be restrictive until that problem is resolved.
2141  *
2142  * Returns: 0 if link is OK for use by FCoE.
2143  *
2144  */
2145 int fcoe_link_ok(struct fc_lport *lport)
2146 {
2147         struct fcoe_port *port = lport_priv(lport);
2148         struct net_device *netdev = port->fcoe->netdev;
2149         struct ethtool_cmd ecmd = { ETHTOOL_GSET };
2150
2151         if (netif_oper_up(netdev) && !dev_ethtool_get_settings(netdev, &ecmd)) {
2152                 lport->link_supported_speeds &=
2153                         ~(FC_PORTSPEED_1GBIT | FC_PORTSPEED_10GBIT);
2154                 if (ecmd.supported & (SUPPORTED_1000baseT_Half |
2155                                       SUPPORTED_1000baseT_Full))
2156                         lport->link_supported_speeds |= FC_PORTSPEED_1GBIT;
2157                 if (ecmd.supported & SUPPORTED_10000baseT_Full)
2158                         lport->link_supported_speeds |=
2159                                 FC_PORTSPEED_10GBIT;
2160                 if (ecmd.speed == SPEED_1000)
2161                         lport->link_speed = FC_PORTSPEED_1GBIT;
2162                 if (ecmd.speed == SPEED_10000)
2163                         lport->link_speed = FC_PORTSPEED_10GBIT;
2164
2165                 return 0;
2166         }
2167         return -1;
2168 }
2169
2170 /**
2171  * fcoe_percpu_clean() - Clear all pending skbs for an local port
2172  * @lport: The local port whose skbs are to be cleared
2173  *
2174  * Must be called with fcoe_create_mutex held to single-thread completion.
2175  *
2176  * This flushes the pending skbs by adding a new skb to each queue and
2177  * waiting until they are all freed.  This assures us that not only are
2178  * there no packets that will be handled by the lport, but also that any
2179  * threads already handling packet have returned.
2180  */
2181 void fcoe_percpu_clean(struct fc_lport *lport)
2182 {
2183         struct fcoe_percpu_s *pp;
2184         struct fcoe_rcv_info *fr;
2185         struct sk_buff_head *list;
2186         struct sk_buff *skb, *next;
2187         struct sk_buff *head;
2188         unsigned int cpu;
2189
2190         for_each_possible_cpu(cpu) {
2191                 pp = &per_cpu(fcoe_percpu, cpu);
2192                 spin_lock_bh(&pp->fcoe_rx_list.lock);
2193                 list = &pp->fcoe_rx_list;
2194                 head = list->next;
2195                 for (skb = head; skb != (struct sk_buff *)list;
2196                      skb = next) {
2197                         next = skb->next;
2198                         fr = fcoe_dev_from_skb(skb);
2199                         if (fr->fr_dev == lport) {
2200                                 __skb_unlink(skb, list);
2201                                 kfree_skb(skb);
2202                         }
2203                 }
2204
2205                 if (!pp->thread || !cpu_online(cpu)) {
2206                         spin_unlock_bh(&pp->fcoe_rx_list.lock);
2207                         continue;
2208                 }
2209
2210                 skb = dev_alloc_skb(0);
2211                 if (!skb) {
2212                         spin_unlock_bh(&pp->fcoe_rx_list.lock);
2213                         continue;
2214                 }
2215                 skb->destructor = fcoe_percpu_flush_done;
2216
2217                 __skb_queue_tail(&pp->fcoe_rx_list, skb);
2218                 if (pp->fcoe_rx_list.qlen == 1)
2219                         wake_up_process(pp->thread);
2220                 spin_unlock_bh(&pp->fcoe_rx_list.lock);
2221
2222                 wait_for_completion(&fcoe_flush_completion);
2223         }
2224 }
2225
2226 /**
2227  * fcoe_clean_pending_queue() - Dequeue a skb and free it
2228  * @lport: The local port to dequeue a skb on
2229  */
2230 void fcoe_clean_pending_queue(struct fc_lport *lport)
2231 {
2232         struct fcoe_port  *port = lport_priv(lport);
2233         struct sk_buff *skb;
2234
2235         spin_lock_bh(&port->fcoe_pending_queue.lock);
2236         while ((skb = __skb_dequeue(&port->fcoe_pending_queue)) != NULL) {
2237                 spin_unlock_bh(&port->fcoe_pending_queue.lock);
2238                 kfree_skb(skb);
2239                 spin_lock_bh(&port->fcoe_pending_queue.lock);
2240         }
2241         spin_unlock_bh(&port->fcoe_pending_queue.lock);
2242 }
2243
2244 /**
2245  * fcoe_reset() - Reset a local port
2246  * @shost: The SCSI host associated with the local port to be reset
2247  *
2248  * Returns: Always 0 (return value required by FC transport template)
2249  */
2250 int fcoe_reset(struct Scsi_Host *shost)
2251 {
2252         struct fc_lport *lport = shost_priv(shost);
2253         fc_lport_reset(lport);
2254         return 0;
2255 }
2256
2257 /**
2258  * fcoe_hostlist_lookup_port() - Find the FCoE interface associated with a net device
2259  * @netdev: The net device used as a key
2260  *
2261  * Locking: Must be called with the RNL mutex held.
2262  *
2263  * Returns: NULL or the FCoE interface
2264  */
2265 static struct fcoe_interface *
2266 fcoe_hostlist_lookup_port(const struct net_device *netdev)
2267 {
2268         struct fcoe_interface *fcoe;
2269
2270         list_for_each_entry(fcoe, &fcoe_hostlist, list) {
2271                 if (fcoe->netdev == netdev)
2272                         return fcoe;
2273         }
2274         return NULL;
2275 }
2276
2277 /**
2278  * fcoe_hostlist_lookup() - Find the local port associated with a
2279  *                          given net device
2280  * @netdev: The netdevice used as a key
2281  *
2282  * Locking: Must be called with the RTNL mutex held
2283  *
2284  * Returns: NULL or the local port
2285  */
2286 static struct fc_lport *fcoe_hostlist_lookup(const struct net_device *netdev)
2287 {
2288         struct fcoe_interface *fcoe;
2289
2290         fcoe = fcoe_hostlist_lookup_port(netdev);
2291         return (fcoe) ? fcoe->ctlr.lp : NULL;
2292 }
2293
2294 /**
2295  * fcoe_hostlist_add() - Add the FCoE interface identified by a local
2296  *                       port to the hostlist
2297  * @lport: The local port that identifies the FCoE interface to be added
2298  *
2299  * Locking: must be called with the RTNL mutex held
2300  *
2301  * Returns: 0 for success
2302  */
2303 static int fcoe_hostlist_add(const struct fc_lport *lport)
2304 {
2305         struct fcoe_interface *fcoe;
2306         struct fcoe_port *port;
2307
2308         fcoe = fcoe_hostlist_lookup_port(fcoe_netdev(lport));
2309         if (!fcoe) {
2310                 port = lport_priv(lport);
2311                 fcoe = port->fcoe;
2312                 list_add_tail(&fcoe->list, &fcoe_hostlist);
2313         }
2314         return 0;
2315 }
2316
2317 /**
2318  * fcoe_init() - Initialize fcoe.ko
2319  *
2320  * Returns: 0 on success, or a negative value on failure
2321  */
2322 static int __init fcoe_init(void)
2323 {
2324         struct fcoe_percpu_s *p;
2325         unsigned int cpu;
2326         int rc = 0;
2327
2328         mutex_lock(&fcoe_config_mutex);
2329
2330         for_each_possible_cpu(cpu) {
2331                 p = &per_cpu(fcoe_percpu, cpu);
2332                 skb_queue_head_init(&p->fcoe_rx_list);
2333         }
2334
2335         for_each_online_cpu(cpu)
2336                 fcoe_percpu_thread_create(cpu);
2337
2338         /* Initialize per CPU interrupt thread */
2339         rc = register_hotcpu_notifier(&fcoe_cpu_notifier);
2340         if (rc)
2341                 goto out_free;
2342
2343         /* Setup link change notification */
2344         fcoe_dev_setup();
2345
2346         rc = fcoe_if_init();
2347         if (rc)
2348                 goto out_free;
2349
2350         mutex_unlock(&fcoe_config_mutex);
2351         return 0;
2352
2353 out_free:
2354         for_each_online_cpu(cpu) {
2355                 fcoe_percpu_thread_destroy(cpu);
2356         }
2357         mutex_unlock(&fcoe_config_mutex);
2358         return rc;
2359 }
2360 module_init(fcoe_init);
2361
2362 /**
2363  * fcoe_exit() - Clean up fcoe.ko
2364  *
2365  * Returns: 0 on success or a  negative value on failure
2366  */
2367 static void __exit fcoe_exit(void)
2368 {
2369         struct fcoe_interface *fcoe, *tmp;
2370         struct fcoe_port *port;
2371         unsigned int cpu;
2372
2373         mutex_lock(&fcoe_config_mutex);
2374
2375         fcoe_dev_cleanup();
2376
2377         /* releases the associated fcoe hosts */
2378         rtnl_lock();
2379         list_for_each_entry_safe(fcoe, tmp, &fcoe_hostlist, list) {
2380                 list_del(&fcoe->list);
2381                 port = lport_priv(fcoe->ctlr.lp);
2382                 fcoe_interface_cleanup(fcoe);
2383                 schedule_work(&port->destroy_work);
2384         }
2385         rtnl_unlock();
2386
2387         unregister_hotcpu_notifier(&fcoe_cpu_notifier);
2388
2389         for_each_online_cpu(cpu)
2390                 fcoe_percpu_thread_destroy(cpu);
2391
2392         mutex_unlock(&fcoe_config_mutex);
2393
2394         /* flush any asyncronous interface destroys,
2395          * this should happen after the netdev notifier is unregistered */
2396         flush_scheduled_work();
2397         /* That will flush out all the N_Ports on the hostlist, but now we
2398          * may have NPIV VN_Ports scheduled for destruction */
2399         flush_scheduled_work();
2400
2401         /* detach from scsi transport
2402          * must happen after all destroys are done, therefor after the flush */
2403         fcoe_if_exit();
2404 }
2405 module_exit(fcoe_exit);
2406
2407 /**
2408  * fcoe_flogi_resp() - FCoE specific FLOGI and FDISC response handler
2409  * @seq: active sequence in the FLOGI or FDISC exchange
2410  * @fp: response frame, or error encoded in a pointer (timeout)
2411  * @arg: pointer the the fcoe_ctlr structure
2412  *
2413  * This handles MAC address managment for FCoE, then passes control on to
2414  * the libfc FLOGI response handler.
2415  */
2416 static void fcoe_flogi_resp(struct fc_seq *seq, struct fc_frame *fp, void *arg)
2417 {
2418         struct fcoe_ctlr *fip = arg;
2419         struct fc_exch *exch = fc_seq_exch(seq);
2420         struct fc_lport *lport = exch->lp;
2421         u8 *mac;
2422
2423         if (IS_ERR(fp))
2424                 goto done;
2425
2426         mac = fr_cb(fp)->granted_mac;
2427         if (is_zero_ether_addr(mac)) {
2428                 /* pre-FIP */
2429                 if (fcoe_ctlr_recv_flogi(fip, lport, fp)) {
2430                         fc_frame_free(fp);
2431                         return;
2432                 }
2433         }
2434         fcoe_update_src_mac(lport, mac);
2435 done:
2436         fc_lport_flogi_resp(seq, fp, lport);
2437 }
2438
2439 /**
2440  * fcoe_logo_resp() - FCoE specific LOGO response handler
2441  * @seq: active sequence in the LOGO exchange
2442  * @fp: response frame, or error encoded in a pointer (timeout)
2443  * @arg: pointer the the fcoe_ctlr structure
2444  *
2445  * This handles MAC address managment for FCoE, then passes control on to
2446  * the libfc LOGO response handler.
2447  */
2448 static void fcoe_logo_resp(struct fc_seq *seq, struct fc_frame *fp, void *arg)
2449 {
2450         struct fc_lport *lport = arg;
2451         static u8 zero_mac[ETH_ALEN] = { 0 };
2452
2453         if (!IS_ERR(fp))
2454                 fcoe_update_src_mac(lport, zero_mac);
2455         fc_lport_logo_resp(seq, fp, lport);
2456 }
2457
2458 /**
2459  * fcoe_elsct_send - FCoE specific ELS handler
2460  *
2461  * This does special case handling of FIP encapsualted ELS exchanges for FCoE,
2462  * using FCoE specific response handlers and passing the FIP controller as
2463  * the argument (the lport is still available from the exchange).
2464  *
2465  * Most of the work here is just handed off to the libfc routine.
2466  */
2467 static struct fc_seq *fcoe_elsct_send(struct fc_lport *lport, u32 did,
2468                                       struct fc_frame *fp, unsigned int op,
2469                                       void (*resp)(struct fc_seq *,
2470                                                    struct fc_frame *,
2471                                                    void *),
2472                                       void *arg, u32 timeout)
2473 {
2474         struct fcoe_port *port = lport_priv(lport);
2475         struct fcoe_interface *fcoe = port->fcoe;
2476         struct fcoe_ctlr *fip = &fcoe->ctlr;
2477         struct fc_frame_header *fh = fc_frame_header_get(fp);
2478
2479         switch (op) {
2480         case ELS_FLOGI:
2481         case ELS_FDISC:
2482                 return fc_elsct_send(lport, did, fp, op, fcoe_flogi_resp,
2483                                      fip, timeout);
2484         case ELS_LOGO:
2485                 /* only hook onto fabric logouts, not port logouts */
2486                 if (ntoh24(fh->fh_d_id) != FC_FID_FLOGI)
2487                         break;
2488                 return fc_elsct_send(lport, did, fp, op, fcoe_logo_resp,
2489                                      lport, timeout);
2490         }
2491         return fc_elsct_send(lport, did, fp, op, resp, arg, timeout);
2492 }
2493
2494 /**
2495  * fcoe_vport_create() - create an fc_host/scsi_host for a vport
2496  * @vport: fc_vport object to create a new fc_host for
2497  * @disabled: start the new fc_host in a disabled state by default?
2498  *
2499  * Returns: 0 for success
2500  */
2501 static int fcoe_vport_create(struct fc_vport *vport, bool disabled)
2502 {
2503         struct Scsi_Host *shost = vport_to_shost(vport);
2504         struct fc_lport *n_port = shost_priv(shost);
2505         struct fcoe_port *port = lport_priv(n_port);
2506         struct fcoe_interface *fcoe = port->fcoe;
2507         struct net_device *netdev = fcoe->netdev;
2508         struct fc_lport *vn_port;
2509
2510         mutex_lock(&fcoe_config_mutex);
2511         vn_port = fcoe_if_create(fcoe, &vport->dev, 1);
2512         mutex_unlock(&fcoe_config_mutex);
2513
2514         if (IS_ERR(vn_port)) {
2515                 printk(KERN_ERR "fcoe: fcoe_vport_create(%s) failed\n",
2516                        netdev->name);
2517                 return -EIO;
2518         }
2519
2520         if (disabled) {
2521                 fc_vport_set_state(vport, FC_VPORT_DISABLED);
2522         } else {
2523                 vn_port->boot_time = jiffies;
2524                 fc_fabric_login(vn_port);
2525                 fc_vport_setlink(vn_port);
2526         }
2527         return 0;
2528 }
2529
2530 /**
2531  * fcoe_vport_destroy() - destroy the fc_host/scsi_host for a vport
2532  * @vport: fc_vport object that is being destroyed
2533  *
2534  * Returns: 0 for success
2535  */
2536 static int fcoe_vport_destroy(struct fc_vport *vport)
2537 {
2538         struct Scsi_Host *shost = vport_to_shost(vport);
2539         struct fc_lport *n_port = shost_priv(shost);
2540         struct fc_lport *vn_port = vport->dd_data;
2541         struct fcoe_port *port = lport_priv(vn_port);
2542
2543         mutex_lock(&n_port->lp_mutex);
2544         list_del(&vn_port->list);
2545         mutex_unlock(&n_port->lp_mutex);
2546         schedule_work(&port->destroy_work);
2547         return 0;
2548 }
2549
2550 /**
2551  * fcoe_vport_disable() - change vport state
2552  * @vport: vport to bring online/offline
2553  * @disable: should the vport be disabled?
2554  */
2555 static int fcoe_vport_disable(struct fc_vport *vport, bool disable)
2556 {
2557         struct fc_lport *lport = vport->dd_data;
2558
2559         if (disable) {
2560                 fc_vport_set_state(vport, FC_VPORT_DISABLED);
2561                 fc_fabric_logoff(lport);
2562         } else {
2563                 lport->boot_time = jiffies;
2564                 fc_fabric_login(lport);
2565                 fc_vport_setlink(lport);
2566         }
2567
2568         return 0;
2569 }
2570
2571 /**
2572  * fcoe_vport_set_symbolic_name() - append vport string to symbolic name
2573  * @vport: fc_vport with a new symbolic name string
2574  *
2575  * After generating a new symbolic name string, a new RSPN_ID request is
2576  * sent to the name server.  There is no response handler, so if it fails
2577  * for some reason it will not be retried.
2578  */
2579 static void fcoe_set_vport_symbolic_name(struct fc_vport *vport)
2580 {
2581         struct fc_lport *lport = vport->dd_data;
2582         struct fc_frame *fp;
2583         size_t len;
2584
2585         snprintf(fc_host_symbolic_name(lport->host), FC_SYMBOLIC_NAME_SIZE,
2586                  "%s v%s over %s : %s", FCOE_NAME, FCOE_VERSION,
2587                  fcoe_netdev(lport)->name, vport->symbolic_name);
2588
2589         if (lport->state != LPORT_ST_READY)
2590                 return;
2591
2592         len = strnlen(fc_host_symbolic_name(lport->host), 255);
2593         fp = fc_frame_alloc(lport,
2594                             sizeof(struct fc_ct_hdr) +
2595                             sizeof(struct fc_ns_rspn) + len);
2596         if (!fp)
2597                 return;
2598         lport->tt.elsct_send(lport, FC_FID_DIR_SERV, fp, FC_NS_RSPN_ID,
2599                              NULL, NULL, 3 * lport->r_a_tov);
2600 }
2601
2602 /**
2603  * fcoe_get_lesb() - Fill the FCoE Link Error Status Block
2604  * @lport: the local port
2605  * @fc_lesb: the link error status block
2606  */
2607 static void fcoe_get_lesb(struct fc_lport *lport,
2608                          struct fc_els_lesb *fc_lesb)
2609 {
2610         unsigned int cpu;
2611         u32 lfc, vlfc, mdac;
2612         struct fcoe_dev_stats *devst;
2613         struct fcoe_fc_els_lesb *lesb;
2614         struct net_device *netdev = fcoe_netdev(lport);
2615
2616         lfc = 0;
2617         vlfc = 0;
2618         mdac = 0;
2619         lesb = (struct fcoe_fc_els_lesb *)fc_lesb;
2620         memset(lesb, 0, sizeof(*lesb));
2621         for_each_possible_cpu(cpu) {
2622                 devst = per_cpu_ptr(lport->dev_stats, cpu);
2623                 lfc += devst->LinkFailureCount;
2624                 vlfc += devst->VLinkFailureCount;
2625                 mdac += devst->MissDiscAdvCount;
2626         }
2627         lesb->lesb_link_fail = htonl(lfc);
2628         lesb->lesb_vlink_fail = htonl(vlfc);
2629         lesb->lesb_miss_fka = htonl(mdac);
2630         lesb->lesb_fcs_error = htonl(dev_get_stats(netdev)->rx_crc_errors);
2631 }
2632
2633 /**
2634  * fcoe_set_port_id() - Callback from libfc when Port_ID is set.
2635  * @lport: the local port
2636  * @port_id: the port ID
2637  * @fp: the received frame, if any, that caused the port_id to be set.
2638  *
2639  * This routine handles the case where we received a FLOGI and are
2640  * entering point-to-point mode.  We need to call fcoe_ctlr_recv_flogi()
2641  * so it can set the non-mapped mode and gateway address.
2642  *
2643  * The FLOGI LS_ACC is handled by fcoe_flogi_resp().
2644  */
2645 static void fcoe_set_port_id(struct fc_lport *lport,
2646                              u32 port_id, struct fc_frame *fp)
2647 {
2648         struct fcoe_port *port = lport_priv(lport);
2649         struct fcoe_interface *fcoe = port->fcoe;
2650
2651         if (fp && fc_frame_payload_op(fp) == ELS_FLOGI)
2652                 fcoe_ctlr_recv_flogi(&fcoe->ctlr, lport, fp);
2653 }