drivers/net/mlx4/mlx4.h

   1 /*
   2  * Copyright (c) 2004, 2005 Topspin Communications.  All rights reserved.
   3  * Copyright (c) 2005 Sun Microsystems, Inc. All rights reserved.
   4  * Copyright (c) 2005, 2006, 2007 Cisco Systems.  All rights reserved.
   5  * Copyright (c) 2005 Mellanox Technologies. All rights reserved.
   6  * Copyright (c) 2004 Voltaire, Inc. All rights reserved.
   7  *
   8  * This software is available to you under a choice of one of two
   9  * licenses.  You may choose to be licensed under the terms of the GNU
  10  * General Public License (GPL) Version 2, available from the file
  11  * COPYING in the main directory of this source tree, or the
  12  * OpenIB.org BSD license below:
  13  *
  14  *     Redistribution and use in source and binary forms, with or
  15  *     without modification, are permitted provided that the following
  16  *     conditions are met:
  17  *
  18  *      - Redistributions of source code must retain the above
  19  *        copyright notice, this list of conditions and the following
  20  *        disclaimer.
  21  *
  22  *      - Redistributions in binary form must reproduce the above
  23  *        copyright notice, this list of conditions and the following
  24  *        disclaimer in the documentation and/or other materials
  25  *        provided with the distribution.
  26  *
  27  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND,
  28  * EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
  29  * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND
  30  * NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS
  31  * BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN
  32  * ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN
  33  * CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
  34  * SOFTWARE.
  35  */
  36
  37 #ifndef MLX4_H
  38 #define MLX4_H
  39
  40 #include <linux/mutex.h>
  41 #include <linux/radix-tree.h>
  42 #include <linux/timer.h>
  43
  44 #include <linux/mlx4/device.h>
  45 #include <linux/mlx4/doorbell.h>
  46
  47 #define DRV_NAME        "mlx4_core"
  48 #define PFX             DRV_NAME ": "
  49 #define DRV_VERSION     "0.01"
  50 #define DRV_RELDATE     "May 1, 2007"
  51
  52 enum {
  53         MLX4_HCR_BASE           = 0x80680,
  54         MLX4_HCR_SIZE           = 0x0001c,
  55         MLX4_CLR_INT_SIZE       = 0x00008
  56 };
  57
  58 enum {
  59         MLX4_MGM_ENTRY_SIZE     =  0x40,
  60         MLX4_QP_PER_MGM         = 4 * (MLX4_MGM_ENTRY_SIZE / 16 - 2),
  61         MLX4_MTT_ENTRY_PER_SEG  = 8
  62 };
  63
  64 enum {
  65         MLX4_EQ_ASYNC,
  66         MLX4_EQ_COMP,
  67         MLX4_NUM_EQ
  68 };
  69
  70 enum {
  71         MLX4_NUM_PDS            = 1 << 15
  72 };
  73
  74 enum {
  75         MLX4_CMPT_TYPE_QP       = 0,
  76         MLX4_CMPT_TYPE_SRQ      = 1,
  77         MLX4_CMPT_TYPE_CQ       = 2,
  78         MLX4_CMPT_TYPE_EQ       = 3,
  79         MLX4_CMPT_NUM_TYPE
  80 };
  81
  82 enum {
  83         MLX4_CMPT_SHIFT         = 24,
  84         MLX4_NUM_CMPTS          = MLX4_CMPT_NUM_TYPE << MLX4_CMPT_SHIFT
  85 };
  86
  87 #ifdef CONFIG_MLX4_DEBUG
  88 extern int mlx4_debug_level;
  89
  90 #define mlx4_dbg(mdev, format, arg...)                                  \
  91         do {                                                            \
  92                 if (mlx4_debug_level)                                   \
  93                         dev_printk(KERN_DEBUG, &mdev->pdev->dev, format, ## arg); \
  94         } while (0)
  95
  96 #else /* CONFIG_MLX4_DEBUG */
  97
  98 #define mlx4_dbg(mdev, format, arg...) do { (void) mdev; } while (0)
  99
 100 #endif /* CONFIG_MLX4_DEBUG */
 101
 102 #define mlx4_err(mdev, format, arg...) \
 103         dev_err(&mdev->pdev->dev, format, ## arg)
 104 #define mlx4_info(mdev, format, arg...) \
 105         dev_info(&mdev->pdev->dev, format, ## arg)
 106 #define mlx4_warn(mdev, format, arg...) \
 107         dev_warn(&mdev->pdev->dev, format, ## arg)
 108
 109 struct mlx4_bitmap {
 110         u32                     last;
 111         u32                     top;
 112         u32                     max;
 113         u32                     mask;
 114         spinlock_t              lock;
 115         unsigned long          *table;
 116 };
 117
 118 struct mlx4_buddy {
 119         unsigned long         **bits;
 120         int                     max_order;
 121         spinlock_t              lock;
 122 };
 123
 124 struct mlx4_icm;
 125
 126 struct mlx4_icm_table {
 127         u64                     virt;
 128         int                     num_icm;
 129         int                     num_obj;
 130         int                     obj_size;
 131         int                     lowmem;
 132         int                     coherent;
 133         struct mutex            mutex;
 134         struct mlx4_icm       **icm;
 135 };
 136
 137 struct mlx4_eq {
 138         struct mlx4_dev        *dev;
 139         void __iomem           *doorbell;
 140         int                     eqn;
 141         u32                     cons_index;
 142         u16                     irq;
 143         u16                     have_irq;
 144         int                     nent;
 145         struct mlx4_buf_list   *page_list;
 146         struct mlx4_mtt         mtt;
 147 };
 148
 149 struct mlx4_profile {
 150         int                     num_qp;
 151         int                     rdmarc_per_qp;
 152         int                     num_srq;
 153         int                     num_cq;
 154         int                     num_mcg;
 155         int                     num_mpt;
 156         int                     num_mtt;
 157 };
 158
 159 struct mlx4_fw {
 160         u64                     clr_int_base;
 161         u64                     catas_offset;
 162         struct mlx4_icm        *fw_icm;
 163         struct mlx4_icm        *aux_icm;
 164         u32                     catas_size;
 165         u16                     fw_pages;
 166         u8                      clr_int_bar;
 167         u8                      catas_bar;
 168 };
 169
 170 struct mlx4_cmd {
 171         struct pci_pool        *pool;
 172         void __iomem           *hcr;
 173         struct mutex            hcr_mutex;
 174         struct semaphore        poll_sem;
 175         struct semaphore        event_sem;
 176         int                     max_cmds;
 177         spinlock_t              context_lock;
 178         int                     free_head;
 179         struct mlx4_cmd_context *context;
 180         u16                     token_mask;
 181         u8                      use_events;
 182         u8                      toggle;
 183 };
 184
 185 struct mlx4_uar_table {
 186         struct mlx4_bitmap      bitmap;
 187 };
 188
 189 struct mlx4_mr_table {
 190         struct mlx4_bitmap      mpt_bitmap;
 191         struct mlx4_buddy       mtt_buddy;
 192         u64                     mtt_base;
 193         u64                     mpt_base;
 194         struct mlx4_icm_table   mtt_table;
 195         struct mlx4_icm_table   dmpt_table;
 196 };
 197
 198 struct mlx4_cq_table {
 199         struct mlx4_bitmap      bitmap;
 200         spinlock_t              lock;
 201         struct radix_tree_root  tree;
 202         struct mlx4_icm_table   table;
 203         struct mlx4_icm_table   cmpt_table;
 204 };
 205
 206 struct mlx4_eq_table {
 207         struct mlx4_bitmap      bitmap;
 208         void __iomem           *clr_int;
 209         void __iomem           *uar_map[(MLX4_NUM_EQ + 6) / 4];
 210         u32                     clr_mask;
 211         struct mlx4_eq          eq[MLX4_NUM_EQ];
 212         u64                     icm_virt;
 213         struct page            *icm_page;
 214         dma_addr_t              icm_dma;
 215         struct mlx4_icm_table   cmpt_table;
 216         int                     have_irq;
 217         u8                      inta_pin;
 218 };
 219
 220 struct mlx4_srq_table {
 221         struct mlx4_bitmap      bitmap;
 222         spinlock_t              lock;
 223         struct radix_tree_root  tree;
 224         struct mlx4_icm_table   table;
 225         struct mlx4_icm_table   cmpt_table;
 226 };
 227
 228 struct mlx4_qp_table {
 229         struct mlx4_bitmap      bitmap;
 230         u32                     rdmarc_base;
 231         int                     rdmarc_shift;
 232         spinlock_t              lock;
 233         struct mlx4_icm_table   qp_table;
 234         struct mlx4_icm_table   auxc_table;
 235         struct mlx4_icm_table   altc_table;
 236         struct mlx4_icm_table   rdmarc_table;
 237         struct mlx4_icm_table   cmpt_table;
 238 };
 239
 240 struct mlx4_mcg_table {
 241         struct mutex            mutex;
 242         struct mlx4_bitmap      bitmap;
 243         struct mlx4_icm_table   table;
 244 };
 245
 246 struct mlx4_catas_err {
 247         u32 __iomem            *map;
 248         struct timer_list       timer;
 249         struct list_head        list;
 250 };
 251
 252 struct mlx4_priv {
 253         struct mlx4_dev         dev;
 254
 255         struct list_head        dev_list;
 256         struct list_head        ctx_list;
 257         spinlock_t              ctx_lock;
 258
 259         struct mlx4_fw          fw;
 260         struct mlx4_cmd         cmd;
 261
 262         struct mlx4_bitmap      pd_bitmap;
 263         struct mlx4_uar_table   uar_table;
 264         struct mlx4_mr_table    mr_table;
 265         struct mlx4_cq_table    cq_table;
 266         struct mlx4_eq_table    eq_table;
 267         struct mlx4_srq_table   srq_table;
 268         struct mlx4_qp_table    qp_table;
 269         struct mlx4_mcg_table   mcg_table;
 270
 271         struct mlx4_catas_err   catas_err;
 272
 273         void __iomem           *clr_base;
 274
 275         struct mlx4_uar         driver_uar;
 276         void __iomem           *kar;
 277 };
 278
 279 static inline struct mlx4_priv *mlx4_priv(struct mlx4_dev *dev)
 280 {
 281         return container_of(dev, struct mlx4_priv, dev);
 282 }
 283
 284 u32 mlx4_bitmap_alloc(struct mlx4_bitmap *bitmap);
 285 void mlx4_bitmap_free(struct mlx4_bitmap *bitmap, u32 obj);
 286 int mlx4_bitmap_init(struct mlx4_bitmap *bitmap, u32 num, u32 mask, u32 reserved);
 287 void mlx4_bitmap_cleanup(struct mlx4_bitmap *bitmap);
 288
 289 int mlx4_reset(struct mlx4_dev *dev);
 290
 291 int mlx4_init_pd_table(struct mlx4_dev *dev);
 292 int mlx4_init_uar_table(struct mlx4_dev *dev);
 293 int mlx4_init_mr_table(struct mlx4_dev *dev);
 294 int mlx4_init_eq_table(struct mlx4_dev *dev);
 295 int mlx4_init_cq_table(struct mlx4_dev *dev);
 296 int mlx4_init_qp_table(struct mlx4_dev *dev);
 297 int mlx4_init_srq_table(struct mlx4_dev *dev);
 298 int mlx4_init_mcg_table(struct mlx4_dev *dev);
 299
 300 void mlx4_cleanup_pd_table(struct mlx4_dev *dev);
 301 void mlx4_cleanup_uar_table(struct mlx4_dev *dev);
 302 void mlx4_cleanup_mr_table(struct mlx4_dev *dev);
 303 void mlx4_cleanup_eq_table(struct mlx4_dev *dev);
 304 void mlx4_cleanup_cq_table(struct mlx4_dev *dev);
 305 void mlx4_cleanup_qp_table(struct mlx4_dev *dev);
 306 void mlx4_cleanup_srq_table(struct mlx4_dev *dev);
 307 void mlx4_cleanup_mcg_table(struct mlx4_dev *dev);
 308
 309 void mlx4_start_catas_poll(struct mlx4_dev *dev);
 310 void mlx4_stop_catas_poll(struct mlx4_dev *dev);
 311 int mlx4_catas_init(void);
 312 void mlx4_catas_cleanup(void);
 313 int mlx4_restart_one(struct pci_dev *pdev);
 314 int mlx4_register_device(struct mlx4_dev *dev);
 315 void mlx4_unregister_device(struct mlx4_dev *dev);
 316 void mlx4_dispatch_event(struct mlx4_dev *dev, enum mlx4_event type,
 317                          int subtype, int port);
 318
 319 struct mlx4_dev_cap;
 320 struct mlx4_init_hca_param;
 321
 322 u64 mlx4_make_profile(struct mlx4_dev *dev,
 323                       struct mlx4_profile *request,
 324                       struct mlx4_dev_cap *dev_cap,
 325                       struct mlx4_init_hca_param *init_hca);
 326
 327 int mlx4_map_eq_icm(struct mlx4_dev *dev, u64 icm_virt);
 328 void mlx4_unmap_eq_icm(struct mlx4_dev *dev);
 329
 330 int mlx4_cmd_init(struct mlx4_dev *dev);
 331 void mlx4_cmd_cleanup(struct mlx4_dev *dev);
 332 void mlx4_cmd_event(struct mlx4_dev *dev, u16 token, u8 status, u64 out_param);
 333 int mlx4_cmd_use_events(struct mlx4_dev *dev);
 334 void mlx4_cmd_use_polling(struct mlx4_dev *dev);
 335
 336 void mlx4_cq_completion(struct mlx4_dev *dev, u32 cqn);
 337 void mlx4_cq_event(struct mlx4_dev *dev, u32 cqn, int event_type);
 338
 339 void mlx4_qp_event(struct mlx4_dev *dev, u32 qpn, int event_type);
 340
 341 void mlx4_srq_event(struct mlx4_dev *dev, u32 srqn, int event_type);
 342
 343 void mlx4_handle_catas_err(struct mlx4_dev *dev);
 344
 345 #endif /* MLX4_H */