include/net/xfrm.h

   1 #ifndef _NET_XFRM_H
   2 #define _NET_XFRM_H
   3
   4 #include <linux/compiler.h>
   5 #include <linux/xfrm.h>
   6 #include <linux/spinlock.h>
   7 #include <linux/list.h>
   8 #include <linux/skbuff.h>
   9 #include <linux/socket.h>
  10 #include <linux/pfkeyv2.h>
  11 #include <linux/ipsec.h>
  12 #include <linux/in6.h>
  13 #include <linux/mutex.h>
  14 #include <linux/audit.h>
  15
  16 #include <net/sock.h>
  17 #include <net/dst.h>
  18 #include <net/ip.h>
  19 #include <net/route.h>
  20 #include <net/ipv6.h>
  21 #include <net/ip6_fib.h>
  22 #ifdef CONFIG_XFRM_STATISTICS
  23 #include <net/snmp.h>
  24 #endif
  25
  26 #define XFRM_PROTO_ESP          50
  27 #define XFRM_PROTO_AH           51
  28 #define XFRM_PROTO_COMP         108
  29 #define XFRM_PROTO_IPIP         4
  30 #define XFRM_PROTO_IPV6         41
  31 #define XFRM_PROTO_ROUTING      IPPROTO_ROUTING
  32 #define XFRM_PROTO_DSTOPTS      IPPROTO_DSTOPTS
  33
  34 #define XFRM_ALIGN8(len)        (((len) + 7) & ~7)
  35 #define MODULE_ALIAS_XFRM_MODE(family, encap) \
  36         MODULE_ALIAS("xfrm-mode-" __stringify(family) "-" __stringify(encap))
  37 #define MODULE_ALIAS_XFRM_TYPE(family, proto) \
  38         MODULE_ALIAS("xfrm-type-" __stringify(family) "-" __stringify(proto))
  39
  40 #ifdef CONFIG_XFRM_STATISTICS
  41 DECLARE_SNMP_STAT(struct linux_xfrm_mib, xfrm_statistics);
  42 #define XFRM_INC_STATS(field)           SNMP_INC_STATS(xfrm_statistics, field)
  43 #define XFRM_INC_STATS_BH(field)        SNMP_INC_STATS_BH(xfrm_statistics, field)
  44 #define XFRM_INC_STATS_USER(field)      SNMP_INC_STATS_USER(xfrm_statistics, field)
  45 #else
  46 #define XFRM_INC_STATS(field)
  47 #define XFRM_INC_STATS_BH(field)
  48 #define XFRM_INC_STATS_USER(field)
  49 #endif
  50
  51 extern struct sock *xfrm_nl;
  52 extern u32 sysctl_xfrm_aevent_etime;
  53 extern u32 sysctl_xfrm_aevent_rseqth;
  54 extern int sysctl_xfrm_larval_drop;
  55 extern u32 sysctl_xfrm_acq_expires;
  56
  57 extern struct mutex xfrm_cfg_mutex;
  58
  59 /* Organization of SPD aka "XFRM rules"
  60    ------------------------------------
  61
  62    Basic objects:
  63    - policy rule, struct xfrm_policy (=SPD entry)
  64    - bundle of transformations, struct dst_entry == struct xfrm_dst (=SA bundle)
  65    - instance of a transformer, struct xfrm_state (=SA)
  66    - template to clone xfrm_state, struct xfrm_tmpl
  67
  68    SPD is plain linear list of xfrm_policy rules, ordered by priority.
  69    (To be compatible with existing pfkeyv2 implementations,
  70    many rules with priority of 0x7fffffff are allowed to exist and
  71    such rules are ordered in an unpredictable way, thanks to bsd folks.)
  72
  73    Lookup is plain linear search until the first match with selector.
  74
  75    If "action" is "block", then we prohibit the flow, otherwise:
  76    if "xfrms_nr" is zero, the flow passes untransformed. Otherwise,
  77    policy entry has list of up to XFRM_MAX_DEPTH transformations,
  78    described by templates xfrm_tmpl. Each template is resolved
  79    to a complete xfrm_state (see below) and we pack bundle of transformations
  80    to a dst_entry returned to requestor.
  81
  82    dst -. xfrm  .-> xfrm_state #1
  83     |---. child .-> dst -. xfrm .-> xfrm_state #2
  84                      |---. child .-> dst -. xfrm .-> xfrm_state #3
  85                                       |---. child .-> NULL
  86
  87    Bundles are cached at xrfm_policy struct (field ->bundles).
  88
  89
  90    Resolution of xrfm_tmpl
  91    -----------------------
  92    Template contains:
  93    1. ->mode            Mode: transport or tunnel
  94    2. ->id.proto        Protocol: AH/ESP/IPCOMP
  95    3. ->id.daddr        Remote tunnel endpoint, ignored for transport mode.
  96       Q: allow to resolve security gateway?
  97    4. ->id.spi          If not zero, static SPI.
  98    5. ->saddr           Local tunnel endpoint, ignored for transport mode.
  99    6. ->algos           List of allowed algos. Plain bitmask now.
 100       Q: ealgos, aalgos, calgos. What a mess...
 101    7. ->share           Sharing mode.
 102       Q: how to implement private sharing mode? To add struct sock* to
 103       flow id?
 104
 105    Having this template we search through SAD searching for entries
 106    with appropriate mode/proto/algo, permitted by selector.
 107    If no appropriate entry found, it is requested from key manager.
 108
 109    PROBLEMS:
 110    Q: How to find all the bundles referring to a physical path for
 111       PMTU discovery? Seems, dst should contain list of all parents...
 112       and enter to infinite locking hierarchy disaster.
 113       No! It is easier, we will not search for them, let them find us.
 114       We add genid to each dst plus pointer to genid of raw IP route,
 115       pmtu disc will update pmtu on raw IP route and increase its genid.
 116       dst_check() will see this for top level and trigger resyncing
 117       metrics. Plus, it will be made via sk->sk_dst_cache. Solved.
 118  */
 119
 120 struct xfrm_state_walk {
 121         struct list_head        all;
 122         u8                      state;
 123         union {
 124                 u8              dying;
 125                 u8              proto;
 126         };
 127         u32                     seq;
 128 };
 129
 130 /* Full description of state of transformer. */
 131 struct xfrm_state
 132 {
 133 #ifdef CONFIG_NET_NS
 134         struct net              *xs_net;
 135 #endif
 136         union {
 137                 struct hlist_node       gclist;
 138                 struct hlist_node       bydst;
 139         };
 140         struct hlist_node       bysrc;
 141         struct hlist_node       byspi;
 142
 143         atomic_t                refcnt;
 144         spinlock_t              lock;
 145
 146         struct xfrm_id          id;
 147         struct xfrm_selector    sel;
 148
 149         u32                     genid;
 150
 151         /* Key manager bits */
 152         struct xfrm_state_walk  km;
 153
 154         /* Parameters of this state. */
 155         struct {
 156                 u32             reqid;
 157                 u8              mode;
 158                 u8              replay_window;
 159                 u8              aalgo, ealgo, calgo;
 160                 u8              flags;
 161                 u16             family;
 162                 xfrm_address_t  saddr;
 163                 int             header_len;
 164                 int             trailer_len;
 165         } props;
 166
 167         struct xfrm_lifetime_cfg lft;
 168
 169         /* Data for transformer */
 170         struct xfrm_algo        *aalg;
 171         struct xfrm_algo        *ealg;
 172         struct xfrm_algo        *calg;
 173         struct xfrm_algo_aead   *aead;
 174
 175         /* Data for encapsulator */
 176         struct xfrm_encap_tmpl  *encap;
 177
 178         /* Data for care-of address */
 179         xfrm_address_t  *coaddr;
 180
 181         /* IPComp needs an IPIP tunnel for handling uncompressed packets */
 182         struct xfrm_state       *tunnel;
 183
 184         /* If a tunnel, number of users + 1 */
 185         atomic_t                tunnel_users;
 186
 187         /* State for replay detection */
 188         struct xfrm_replay_state replay;
 189
 190         /* Replay detection state at the time we sent the last notification */
 191         struct xfrm_replay_state preplay;
 192
 193         /* internal flag that only holds state for delayed aevent at the
 194          * moment
 195         */
 196         u32                     xflags;
 197
 198         /* Replay detection notification settings */
 199         u32                     replay_maxage;
 200         u32                     replay_maxdiff;
 201
 202         /* Replay detection notification timer */
 203         struct timer_list       rtimer;
 204
 205         /* Statistics */
 206         struct xfrm_stats       stats;
 207
 208         struct xfrm_lifetime_cur curlft;
 209         struct timer_list       timer;
 210
 211         /* Last used time */
 212         unsigned long           lastused;
 213
 214         /* Reference to data common to all the instances of this
 215          * transformer. */
 216         const struct xfrm_type  *type;
 217         struct xfrm_mode        *inner_mode;
 218         struct xfrm_mode        *inner_mode_iaf;
 219         struct xfrm_mode        *outer_mode;
 220
 221         /* Security context */
 222         struct xfrm_sec_ctx     *security;
 223
 224         /* Private data of this transformer, format is opaque,
 225          * interpreted by xfrm_type methods. */
 226         void                    *data;
 227 };
 228
 229 static inline struct net *xs_net(struct xfrm_state *x)
 230 {
 231         return read_pnet(&x->xs_net);
 232 }
 233
 234 /* xflags - make enum if more show up */
 235 #define XFRM_TIME_DEFER 1
 236
 237 enum {
 238         XFRM_STATE_VOID,
 239         XFRM_STATE_ACQ,
 240         XFRM_STATE_VALID,
 241         XFRM_STATE_ERROR,
 242         XFRM_STATE_EXPIRED,
 243         XFRM_STATE_DEAD
 244 };
 245
 246 /* callback structure passed from either netlink or pfkey */
 247 struct km_event
 248 {
 249         union {
 250                 u32 hard;
 251                 u32 proto;
 252                 u32 byid;
 253                 u32 aevent;
 254                 u32 type;
 255         } data;
 256
 257         u32     seq;
 258         u32     pid;
 259         u32     event;
 260 };
 261
 262 struct net_device;
 263 struct xfrm_type;
 264 struct xfrm_dst;
 265 struct xfrm_policy_afinfo {
 266         unsigned short          family;
 267         struct dst_ops          *dst_ops;
 268         void                    (*garbage_collect)(void);
 269         struct dst_entry        *(*dst_lookup)(int tos, xfrm_address_t *saddr,
 270                                                xfrm_address_t *daddr);
 271         int                     (*get_saddr)(xfrm_address_t *saddr, xfrm_address_t *daddr);
 272         struct dst_entry        *(*find_bundle)(struct flowi *fl, struct xfrm_policy *policy);
 273         void                    (*decode_session)(struct sk_buff *skb,
 274                                                   struct flowi *fl,
 275                                                   int reverse);
 276         int                     (*get_tos)(struct flowi *fl);
 277         int                     (*init_path)(struct xfrm_dst *path,
 278                                              struct dst_entry *dst,
 279                                              int nfheader_len);
 280         int                     (*fill_dst)(struct xfrm_dst *xdst,
 281                                             struct net_device *dev);
 282 };
 283
 284 extern int xfrm_policy_register_afinfo(struct xfrm_policy_afinfo *afinfo);
 285 extern int xfrm_policy_unregister_afinfo(struct xfrm_policy_afinfo *afinfo);
 286 extern void km_policy_notify(struct xfrm_policy *xp, int dir, struct km_event *c);
 287 extern void km_state_notify(struct xfrm_state *x, struct km_event *c);
 288
 289 struct xfrm_tmpl;
 290 extern int km_query(struct xfrm_state *x, struct xfrm_tmpl *t, struct xfrm_policy *pol);
 291 extern void km_state_expired(struct xfrm_state *x, int hard, u32 pid);
 292 extern int __xfrm_state_delete(struct xfrm_state *x);
 293
 294 struct xfrm_state_afinfo {
 295         unsigned int            family;
 296         unsigned int            proto;
 297         __be16                  eth_proto;
 298         struct module           *owner;
 299         const struct xfrm_type  *type_map[IPPROTO_MAX];
 300         struct xfrm_mode        *mode_map[XFRM_MODE_MAX];
 301         int                     (*init_flags)(struct xfrm_state *x);
 302         void                    (*init_tempsel)(struct xfrm_state *x, struct flowi *fl,
 303                                                 struct xfrm_tmpl *tmpl,
 304                                                 xfrm_address_t *daddr, xfrm_address_t *saddr);
 305         int                     (*tmpl_sort)(struct xfrm_tmpl **dst, struct xfrm_tmpl **src, int n);
 306         int                     (*state_sort)(struct xfrm_state **dst, struct xfrm_state **src, int n);
 307         int                     (*output)(struct sk_buff *skb);
 308         int                     (*extract_input)(struct xfrm_state *x,
 309                                                  struct sk_buff *skb);
 310         int                     (*extract_output)(struct xfrm_state *x,
 311                                                   struct sk_buff *skb);
 312         int                     (*transport_finish)(struct sk_buff *skb,
 313                                                     int async);
 314 };
 315
 316 extern int xfrm_state_register_afinfo(struct xfrm_state_afinfo *afinfo);
 317 extern int xfrm_state_unregister_afinfo(struct xfrm_state_afinfo *afinfo);
 318
 319 extern void xfrm_state_delete_tunnel(struct xfrm_state *x);
 320
 321 struct xfrm_type
 322 {
 323         char                    *description;
 324         struct module           *owner;
 325         __u8                    proto;
 326         __u8                    flags;
 327 #define XFRM_TYPE_NON_FRAGMENT  1
 328 #define XFRM_TYPE_REPLAY_PROT   2
 329 #define XFRM_TYPE_LOCAL_COADDR  4
 330 #define XFRM_TYPE_REMOTE_COADDR 8
 331
 332         int                     (*init_state)(struct xfrm_state *x);
 333         void                    (*destructor)(struct xfrm_state *);
 334         int                     (*input)(struct xfrm_state *, struct sk_buff *skb);
 335         int                     (*output)(struct xfrm_state *, struct sk_buff *pskb);
 336         int                     (*reject)(struct xfrm_state *, struct sk_buff *, struct flowi *);
 337         int                     (*hdr_offset)(struct xfrm_state *, struct sk_buff *, u8 **);
 338         /* Estimate maximal size of result of transformation of a dgram */
 339         u32                     (*get_mtu)(struct xfrm_state *, int size);
 340 };
 341
 342 extern int xfrm_register_type(const struct xfrm_type *type, unsigned short family);
 343 extern int xfrm_unregister_type(const struct xfrm_type *type, unsigned short family);
 344
 345 struct xfrm_mode {
 346         /*
 347          * Remove encapsulation header.
 348          *
 349          * The IP header will be moved over the top of the encapsulation
 350          * header.
 351          *
 352          * On entry, the transport header shall point to where the IP header
 353          * should be and the network header shall be set to where the IP
 354          * header currently is.  skb->data shall point to the start of the
 355          * payload.
 356          */
 357         int (*input2)(struct xfrm_state *x, struct sk_buff *skb);
 358
 359         /*
 360          * This is the actual input entry point.
 361          *
 362          * For transport mode and equivalent this would be identical to
 363          * input2 (which does not need to be set).  While tunnel mode
 364          * and equivalent would set this to the tunnel encapsulation function
 365          * xfrm4_prepare_input that would in turn call input2.
 366          */
 367         int (*input)(struct xfrm_state *x, struct sk_buff *skb);
 368
 369         /*
 370          * Add encapsulation header.
 371          *
 372          * On exit, the transport header will be set to the start of the
 373          * encapsulation header to be filled in by x->type->output and
 374          * the mac header will be set to the nextheader (protocol for
 375          * IPv4) field of the extension header directly preceding the
 376          * encapsulation header, or in its absence, that of the top IP
 377          * header.  The value of the network header will always point
 378          * to the top IP header while skb->data will point to the payload.
 379          */
 380         int (*output2)(struct xfrm_state *x,struct sk_buff *skb);
 381
 382         /*
 383          * This is the actual output entry point.
 384          *
 385          * For transport mode and equivalent this would be identical to
 386          * output2 (which does not need to be set).  While tunnel mode
 387          * and equivalent would set this to a tunnel encapsulation function
 388          * (xfrm4_prepare_output or xfrm6_prepare_output) that would in turn
 389          * call output2.
 390          */
 391         int (*output)(struct xfrm_state *x, struct sk_buff *skb);
 392
 393         struct xfrm_state_afinfo *afinfo;
 394         struct module *owner;
 395         unsigned int encap;
 396         int flags;
 397 };
 398
 399 /* Flags for xfrm_mode. */
 400 enum {
 401         XFRM_MODE_FLAG_TUNNEL = 1,
 402 };
 403
 404 extern int xfrm_register_mode(struct xfrm_mode *mode, int family);
 405 extern int xfrm_unregister_mode(struct xfrm_mode *mode, int family);
 406
 407 static inline int xfrm_af2proto(unsigned int family)
 408 {
 409         switch(family) {
 410         case AF_INET:
 411                 return IPPROTO_IPIP;
 412         case AF_INET6:
 413                 return IPPROTO_IPV6;
 414         default:
 415                 return 0;
 416         }
 417 }
 418
 419 static inline struct xfrm_mode *xfrm_ip2inner_mode(struct xfrm_state *x, int ipproto)
 420 {
 421         if ((ipproto == IPPROTO_IPIP && x->props.family == AF_INET) ||
 422             (ipproto == IPPROTO_IPV6 && x->props.family == AF_INET6))
 423                 return x->inner_mode;
 424         else
 425                 return x->inner_mode_iaf;
 426 }
 427
 428 struct xfrm_tmpl
 429 {
 430 /* id in template is interpreted as:
 431  * daddr - destination of tunnel, may be zero for transport mode.
 432  * spi   - zero to acquire spi. Not zero if spi is static, then
 433  *         daddr must be fixed too.
 434  * proto - AH/ESP/IPCOMP
 435  */
 436         struct xfrm_id          id;
 437
 438 /* Source address of tunnel. Ignored, if it is not a tunnel. */
 439         xfrm_address_t          saddr;
 440
 441         unsigned short          encap_family;
 442
 443         __u32                   reqid;
 444
 445 /* Mode: transport, tunnel etc. */
 446         __u8                    mode;
 447
 448 /* Sharing mode: unique, this session only, this user only etc. */
 449         __u8                    share;
 450
 451 /* May skip this transfomration if no SA is found */
 452         __u8                    optional;
 453
 454 /* Skip aalgos/ealgos/calgos checks. */
 455         __u8                    allalgs;
 456
 457 /* Bit mask of algos allowed for acquisition */
 458         __u32                   aalgos;
 459         __u32                   ealgos;
 460         __u32                   calgos;
 461 };
 462
 463 #define XFRM_MAX_DEPTH          6
 464
 465 struct xfrm_policy_walk_entry {
 466         struct list_head        all;
 467         u8                      dead;
 468 };
 469
 470 struct xfrm_policy_walk {
 471         struct xfrm_policy_walk_entry walk;
 472         u8 type;
 473         u32 seq;
 474 };
 475
 476 struct xfrm_policy
 477 {
 478         struct hlist_node       bydst;
 479         struct hlist_node       byidx;
 480
 481         /* This lock only affects elements except for entry. */
 482         rwlock_t                lock;
 483         atomic_t                refcnt;
 484         struct timer_list       timer;
 485
 486         u32                     priority;
 487         u32                     index;
 488         struct xfrm_selector    selector;
 489         struct xfrm_lifetime_cfg lft;
 490         struct xfrm_lifetime_cur curlft;
 491         struct dst_entry       *bundles;
 492         struct xfrm_policy_walk_entry walk;
 493         u8                      type;
 494         u8                      action;
 495         u8                      flags;
 496         u8                      xfrm_nr;
 497         u16                     family;
 498         struct xfrm_sec_ctx     *security;
 499         struct xfrm_tmpl        xfrm_vec[XFRM_MAX_DEPTH];
 500 };
 501
 502 struct xfrm_kmaddress {
 503         xfrm_address_t          local;
 504         xfrm_address_t          remote;
 505         u32                     reserved;
 506         u16                     family;
 507 };
 508
 509 struct xfrm_migrate {
 510         xfrm_address_t          old_daddr;
 511         xfrm_address_t          old_saddr;
 512         xfrm_address_t          new_daddr;
 513         xfrm_address_t          new_saddr;
 514         u8                      proto;
 515         u8                      mode;
 516         u16                     reserved;
 517         u32                     reqid;
 518         u16                     old_family;
 519         u16                     new_family;
 520 };
 521
 522 #define XFRM_KM_TIMEOUT                30
 523 /* which seqno */
 524 #define XFRM_REPLAY_SEQ         1
 525 #define XFRM_REPLAY_OSEQ        2
 526 #define XFRM_REPLAY_SEQ_MASK    3
 527 /* what happened */
 528 #define XFRM_REPLAY_UPDATE      XFRM_AE_CR
 529 #define XFRM_REPLAY_TIMEOUT     XFRM_AE_CE
 530
 531 /* default aevent timeout in units of 100ms */
 532 #define XFRM_AE_ETIME                   10
 533 /* Async Event timer multiplier */
 534 #define XFRM_AE_ETH_M                   10
 535 /* default seq threshold size */
 536 #define XFRM_AE_SEQT_SIZE               2
 537
 538 struct xfrm_mgr
 539 {
 540         struct list_head        list;
 541         char                    *id;
 542         int                     (*notify)(struct xfrm_state *x, struct km_event *c);
 543         int                     (*acquire)(struct xfrm_state *x, struct xfrm_tmpl *, struct xfrm_policy *xp, int dir);
 544         struct xfrm_policy      *(*compile_policy)(struct sock *sk, int opt, u8 *data, int len, int *dir);
 545         int                     (*new_mapping)(struct xfrm_state *x, xfrm_address_t *ipaddr, __be16 sport);
 546         int                     (*notify_policy)(struct xfrm_policy *x, int dir, struct km_event *c);
 547         int                     (*report)(u8 proto, struct xfrm_selector *sel, xfrm_address_t *addr);
 548         int                     (*migrate)(struct xfrm_selector *sel, u8 dir, u8 type, struct xfrm_migrate *m, int num_bundles, struct xfrm_kmaddress *k);
 549 };
 550
 551 extern int xfrm_register_km(struct xfrm_mgr *km);
 552 extern int xfrm_unregister_km(struct xfrm_mgr *km);
 553
 554 extern unsigned int xfrm_policy_count[XFRM_POLICY_MAX*2];
 555
 556 /*
 557  * This structure is used for the duration where packets are being
 558  * transformed by IPsec.  As soon as the packet leaves IPsec the
 559  * area beyond the generic IP part may be overwritten.
 560  */
 561 struct xfrm_skb_cb {
 562         union {
 563                 struct inet_skb_parm h4;
 564                 struct inet6_skb_parm h6;
 565         } header;
 566
 567         /* Sequence number for replay protection. */
 568         union {
 569                 u64 output;
 570                 __be32 input;
 571         } seq;
 572 };
 573
 574 #define XFRM_SKB_CB(__skb) ((struct xfrm_skb_cb *)&((__skb)->cb[0]))
 575
 576 /*
 577  * This structure is used by the afinfo prepare_input/prepare_output functions
 578  * to transmit header information to the mode input/output functions.
 579  */
 580 struct xfrm_mode_skb_cb {
 581         union {
 582                 struct inet_skb_parm h4;
 583                 struct inet6_skb_parm h6;
 584         } header;
 585
 586         /* Copied from header for IPv4, always set to zero and DF for IPv6. */
 587         __be16 id;
 588         __be16 frag_off;
 589
 590         /* IP header length (excluding options or extension headers). */
 591         u8 ihl;
 592
 593         /* TOS for IPv4, class for IPv6. */
 594         u8 tos;
 595
 596         /* TTL for IPv4, hop limitfor IPv6. */
 597         u8 ttl;
 598
 599         /* Protocol for IPv4, NH for IPv6. */
 600         u8 protocol;
 601
 602         /* Option length for IPv4, zero for IPv6. */
 603         u8 optlen;
 604
 605         /* Used by IPv6 only, zero for IPv4. */
 606         u8 flow_lbl[3];
 607 };
 608
 609 #define XFRM_MODE_SKB_CB(__skb) ((struct xfrm_mode_skb_cb *)&((__skb)->cb[0]))
 610
 611 /*
 612  * This structure is used by the input processing to locate the SPI and
 613  * related information.
 614  */
 615 struct xfrm_spi_skb_cb {
 616         union {
 617                 struct inet_skb_parm h4;
 618                 struct inet6_skb_parm h6;
 619         } header;
 620
 621         unsigned int daddroff;
 622         unsigned int family;
 623 };
 624
 625 #define XFRM_SPI_SKB_CB(__skb) ((struct xfrm_spi_skb_cb *)&((__skb)->cb[0]))
 626
 627 /* Audit Information */
 628 struct xfrm_audit
 629 {
 630         u32     secid;
 631         uid_t   loginuid;
 632         u32     sessionid;
 633 };
 634
 635 #ifdef CONFIG_AUDITSYSCALL
 636 static inline struct audit_buffer *xfrm_audit_start(const char *op)
 637 {
 638         struct audit_buffer *audit_buf = NULL;
 639
 640         if (audit_enabled == 0)
 641                 return NULL;
 642         audit_buf = audit_log_start(current->audit_context, GFP_ATOMIC,
 643                                     AUDIT_MAC_IPSEC_EVENT);
 644         if (audit_buf == NULL)
 645                 return NULL;
 646         audit_log_format(audit_buf, "op=%s", op);
 647         return audit_buf;
 648 }
 649
 650 static inline void xfrm_audit_helper_usrinfo(uid_t auid, u32 ses, u32 secid,
 651                                              struct audit_buffer *audit_buf)
 652 {
 653         char *secctx;
 654         u32 secctx_len;
 655
 656         audit_log_format(audit_buf, " auid=%u ses=%u", auid, ses);
 657         if (secid != 0 &&
 658             security_secid_to_secctx(secid, &secctx, &secctx_len) == 0) {
 659                 audit_log_format(audit_buf, " subj=%s", secctx);
 660                 security_release_secctx(secctx, secctx_len);
 661         } else
 662                 audit_log_task_context(audit_buf);
 663 }
 664
 665 extern void xfrm_audit_policy_add(struct xfrm_policy *xp, int result,
 666                                   u32 auid, u32 ses, u32 secid);
 667 extern void xfrm_audit_policy_delete(struct xfrm_policy *xp, int result,
 668                                   u32 auid, u32 ses, u32 secid);
 669 extern void xfrm_audit_state_add(struct xfrm_state *x, int result,
 670                                  u32 auid, u32 ses, u32 secid);
 671 extern void xfrm_audit_state_delete(struct xfrm_state *x, int result,
 672                                     u32 auid, u32 ses, u32 secid);
 673 extern void xfrm_audit_state_replay_overflow(struct xfrm_state *x,
 674                                              struct sk_buff *skb);
 675 extern void xfrm_audit_state_notfound_simple(struct sk_buff *skb, u16 family);
 676 extern void xfrm_audit_state_notfound(struct sk_buff *skb, u16 family,
 677                                       __be32 net_spi, __be32 net_seq);
 678 extern void xfrm_audit_state_icvfail(struct xfrm_state *x,
 679                                      struct sk_buff *skb, u8 proto);
 680 #else
 681
 682 static inline void xfrm_audit_policy_add(struct xfrm_policy *xp, int result,
 683                                   u32 auid, u32 ses, u32 secid)
 684 {
 685 }
 686
 687 static inline void xfrm_audit_policy_delete(struct xfrm_policy *xp, int result,
 688                                   u32 auid, u32 ses, u32 secid)
 689 {
 690 }
 691
 692 static inline void xfrm_audit_state_add(struct xfrm_state *x, int result,
 693                                  u32 auid, u32 ses, u32 secid)
 694 {
 695 }
 696
 697 static inline void xfrm_audit_state_delete(struct xfrm_state *x, int result,
 698                                     u32 auid, u32 ses, u32 secid)
 699 {
 700 }
 701
 702 static inline void xfrm_audit_state_replay_overflow(struct xfrm_state *x,
 703                                              struct sk_buff *skb)
 704 {
 705 }
 706
 707 static inline void xfrm_audit_state_notfound_simple(struct sk_buff *skb,
 708                                       u16 family)
 709 {
 710 }
 711
 712 static inline void xfrm_audit_state_notfound(struct sk_buff *skb, u16 family,
 713                                       __be32 net_spi, __be32 net_seq)
 714 {
 715 }
 716
 717 static inline void xfrm_audit_state_icvfail(struct xfrm_state *x,
 718                                      struct sk_buff *skb, u8 proto)
 719 {
 720 }
 721 #endif /* CONFIG_AUDITSYSCALL */
 722
 723 static inline void xfrm_pol_hold(struct xfrm_policy *policy)
 724 {
 725         if (likely(policy != NULL))
 726                 atomic_inc(&policy->refcnt);
 727 }
 728
 729 extern void xfrm_policy_destroy(struct xfrm_policy *policy);
 730
 731 static inline void xfrm_pol_put(struct xfrm_policy *policy)
 732 {
 733         if (atomic_dec_and_test(&policy->refcnt))
 734                 xfrm_policy_destroy(policy);
 735 }
 736
 737 #ifdef CONFIG_XFRM_SUB_POLICY
 738 static inline void xfrm_pols_put(struct xfrm_policy **pols, int npols)
 739 {
 740         int i;
 741         for (i = npols - 1; i >= 0; --i)
 742                 xfrm_pol_put(pols[i]);
 743 }
 744 #else
 745 static inline void xfrm_pols_put(struct xfrm_policy **pols, int npols)
 746 {
 747         xfrm_pol_put(pols[0]);
 748 }
 749 #endif
 750
 751 extern void __xfrm_state_destroy(struct xfrm_state *);
 752
 753 static inline void __xfrm_state_put(struct xfrm_state *x)
 754 {
 755         atomic_dec(&x->refcnt);
 756 }
 757
 758 static inline void xfrm_state_put(struct xfrm_state *x)
 759 {
 760         if (atomic_dec_and_test(&x->refcnt))
 761                 __xfrm_state_destroy(x);
 762 }
 763
 764 static inline void xfrm_state_hold(struct xfrm_state *x)
 765 {
 766         atomic_inc(&x->refcnt);
 767 }
 768
 769 static __inline__ int addr_match(void *token1, void *token2, int prefixlen)
 770 {
 771         __be32 *a1 = token1;
 772         __be32 *a2 = token2;
 773         int pdw;
 774         int pbi;
 775
 776         pdw = prefixlen >> 5;     /* num of whole __u32 in prefix */
 777         pbi = prefixlen &  0x1f;  /* num of bits in incomplete u32 in prefix */
 778
 779         if (pdw)
 780                 if (memcmp(a1, a2, pdw << 2))
 781                         return 0;
 782
 783         if (pbi) {
 784                 __be32 mask;
 785
 786                 mask = htonl((0xffffffff) << (32 - pbi));
 787
 788                 if ((a1[pdw] ^ a2[pdw]) & mask)
 789                         return 0;
 790         }
 791
 792         return 1;
 793 }
 794
 795 static __inline__
 796 __be16 xfrm_flowi_sport(struct flowi *fl)
 797 {
 798         __be16 port;
 799         switch(fl->proto) {
 800         case IPPROTO_TCP:
 801         case IPPROTO_UDP:
 802         case IPPROTO_UDPLITE:
 803         case IPPROTO_SCTP:
 804                 port = fl->fl_ip_sport;
 805                 break;
 806         case IPPROTO_ICMP:
 807         case IPPROTO_ICMPV6:
 808                 port = htons(fl->fl_icmp_type);
 809                 break;
 810         case IPPROTO_MH:
 811                 port = htons(fl->fl_mh_type);
 812                 break;
 813         default:
 814                 port = 0;       /*XXX*/
 815         }
 816         return port;
 817 }
 818
 819 static __inline__
 820 __be16 xfrm_flowi_dport(struct flowi *fl)
 821 {
 822         __be16 port;
 823         switch(fl->proto) {
 824         case IPPROTO_TCP:
 825         case IPPROTO_UDP:
 826         case IPPROTO_UDPLITE:
 827         case IPPROTO_SCTP:
 828                 port = fl->fl_ip_dport;
 829                 break;
 830         case IPPROTO_ICMP:
 831         case IPPROTO_ICMPV6:
 832                 port = htons(fl->fl_icmp_code);
 833                 break;
 834         default:
 835                 port = 0;       /*XXX*/
 836         }
 837         return port;
 838 }
 839
 840 extern int xfrm_selector_match(struct xfrm_selector *sel, struct flowi *fl,
 841                                unsigned short family);
 842
 843 #ifdef CONFIG_SECURITY_NETWORK_XFRM
 844 /*      If neither has a context --> match
 845  *      Otherwise, both must have a context and the sids, doi, alg must match
 846  */
 847 static inline int xfrm_sec_ctx_match(struct xfrm_sec_ctx *s1, struct xfrm_sec_ctx *s2)
 848 {
 849         return ((!s1 && !s2) ||
 850                 (s1 && s2 &&
 851                  (s1->ctx_sid == s2->ctx_sid) &&
 852                  (s1->ctx_doi == s2->ctx_doi) &&
 853                  (s1->ctx_alg == s2->ctx_alg)));
 854 }
 855 #else
 856 static inline int xfrm_sec_ctx_match(struct xfrm_sec_ctx *s1, struct xfrm_sec_ctx *s2)
 857 {
 858         return 1;
 859 }
 860 #endif
 861
 862 /* A struct encoding bundle of transformations to apply to some set of flow.
 863  *
 864  * dst->child points to the next element of bundle.
 865  * dst->xfrm  points to an instanse of transformer.
 866  *
 867  * Due to unfortunate limitations of current routing cache, which we
 868  * have no time to fix, it mirrors struct rtable and bound to the same
 869  * routing key, including saddr,daddr. However, we can have many of
 870  * bundles differing by session id. All the bundles grow from a parent
 871  * policy rule.
 872  */
 873 struct xfrm_dst
 874 {
 875         union {
 876                 struct dst_entry        dst;
 877                 struct rtable           rt;
 878                 struct rt6_info         rt6;
 879         } u;
 880         struct dst_entry *route;
 881 #ifdef CONFIG_XFRM_SUB_POLICY
 882         struct flowi *origin;
 883         struct xfrm_selector *partner;
 884 #endif
 885         u32 genid;
 886         u32 route_mtu_cached;
 887         u32 child_mtu_cached;
 888         u32 route_cookie;
 889         u32 path_cookie;
 890 };
 891
 892 #ifdef CONFIG_XFRM
 893 static inline void xfrm_dst_destroy(struct xfrm_dst *xdst)
 894 {
 895         dst_release(xdst->route);
 896         if (likely(xdst->u.dst.xfrm))
 897                 xfrm_state_put(xdst->u.dst.xfrm);
 898 #ifdef CONFIG_XFRM_SUB_POLICY
 899         kfree(xdst->origin);
 900         xdst->origin = NULL;
 901         kfree(xdst->partner);
 902         xdst->partner = NULL;
 903 #endif
 904 }
 905 #endif
 906
 907 extern void xfrm_dst_ifdown(struct dst_entry *dst, struct net_device *dev);
 908
 909 struct sec_path
 910 {
 911         atomic_t                refcnt;
 912         int                     len;
 913         struct xfrm_state       *xvec[XFRM_MAX_DEPTH];
 914 };
 915
 916 static inline struct sec_path *
 917 secpath_get(struct sec_path *sp)
 918 {
 919         if (sp)
 920                 atomic_inc(&sp->refcnt);
 921         return sp;
 922 }
 923
 924 extern void __secpath_destroy(struct sec_path *sp);
 925
 926 static inline void
 927 secpath_put(struct sec_path *sp)
 928 {
 929         if (sp && atomic_dec_and_test(&sp->refcnt))
 930                 __secpath_destroy(sp);
 931 }
 932
 933 extern struct sec_path *secpath_dup(struct sec_path *src);
 934
 935 static inline void
 936 secpath_reset(struct sk_buff *skb)
 937 {
 938 #ifdef CONFIG_XFRM
 939         secpath_put(skb->sp);
 940         skb->sp = NULL;
 941 #endif
 942 }
 943
 944 static inline int
 945 xfrm_addr_any(xfrm_address_t *addr, unsigned short family)
 946 {
 947         switch (family) {
 948         case AF_INET:
 949                 return addr->a4 == 0;
 950         case AF_INET6:
 951                 return ipv6_addr_any((struct in6_addr *)&addr->a6);
 952         }
 953         return 0;
 954 }
 955
 956 static inline int
 957 __xfrm4_state_addr_cmp(struct xfrm_tmpl *tmpl, struct xfrm_state *x)
 958 {
 959         return  (tmpl->saddr.a4 &&
 960                  tmpl->saddr.a4 != x->props.saddr.a4);
 961 }
 962
 963 static inline int
 964 __xfrm6_state_addr_cmp(struct xfrm_tmpl *tmpl, struct xfrm_state *x)
 965 {
 966         return  (!ipv6_addr_any((struct in6_addr*)&tmpl->saddr) &&
 967                  ipv6_addr_cmp((struct in6_addr *)&tmpl->saddr, (struct in6_addr*)&x->props.saddr));
 968 }
 969
 970 static inline int
 971 xfrm_state_addr_cmp(struct xfrm_tmpl *tmpl, struct xfrm_state *x, unsigned short family)
 972 {
 973         switch (family) {
 974         case AF_INET:
 975                 return __xfrm4_state_addr_cmp(tmpl, x);
 976         case AF_INET6:
 977                 return __xfrm6_state_addr_cmp(tmpl, x);
 978         }
 979         return !0;
 980 }
 981
 982 #ifdef CONFIG_XFRM
 983 extern int __xfrm_policy_check(struct sock *, int dir, struct sk_buff *skb, unsigned short family);
 984
 985 static inline int __xfrm_policy_check2(struct sock *sk, int dir,
 986                                        struct sk_buff *skb,
 987                                        unsigned int family, int reverse)
 988 {
 989         int ndir = dir | (reverse ? XFRM_POLICY_MASK + 1 : 0);
 990
 991         if (sk && sk->sk_policy[XFRM_POLICY_IN])
 992                 return __xfrm_policy_check(sk, ndir, skb, family);
 993
 994         return  (!xfrm_policy_count[dir] && !skb->sp) ||
 995                 (skb->dst->flags & DST_NOPOLICY) ||
 996                 __xfrm_policy_check(sk, ndir, skb, family);
 997 }
 998
 999 static inline int xfrm_policy_check(struct sock *sk, int dir, struct sk_buff *skb, unsigned short family)
1000 {
1001         return __xfrm_policy_check2(sk, dir, skb, family, 0);
1002 }
1003
1004 static inline int xfrm4_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
1005 {
1006         return xfrm_policy_check(sk, dir, skb, AF_INET);
1007 }
1008
1009 static inline int xfrm6_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
1010 {
1011         return xfrm_policy_check(sk, dir, skb, AF_INET6);
1012 }
1013
1014 static inline int xfrm4_policy_check_reverse(struct sock *sk, int dir,
1015                                              struct sk_buff *skb)
1016 {
1017         return __xfrm_policy_check2(sk, dir, skb, AF_INET, 1);
1018 }
1019
1020 static inline int xfrm6_policy_check_reverse(struct sock *sk, int dir,
1021                                              struct sk_buff *skb)
1022 {
1023         return __xfrm_policy_check2(sk, dir, skb, AF_INET6, 1);
1024 }
1025
1026 extern int __xfrm_decode_session(struct sk_buff *skb, struct flowi *fl,
1027                                  unsigned int family, int reverse);
1028
1029 static inline int xfrm_decode_session(struct sk_buff *skb, struct flowi *fl,
1030                                       unsigned int family)
1031 {
1032         return __xfrm_decode_session(skb, fl, family, 0);
1033 }
1034
1035 static inline int xfrm_decode_session_reverse(struct sk_buff *skb,
1036                                               struct flowi *fl,
1037                                               unsigned int family)
1038 {
1039         return __xfrm_decode_session(skb, fl, family, 1);
1040 }
1041
1042 extern int __xfrm_route_forward(struct sk_buff *skb, unsigned short family);
1043
1044 static inline int xfrm_route_forward(struct sk_buff *skb, unsigned short family)
1045 {
1046         return  !xfrm_policy_count[XFRM_POLICY_OUT] ||
1047                 (skb->dst->flags & DST_NOXFRM) ||
1048                 __xfrm_route_forward(skb, family);
1049 }
1050
1051 static inline int xfrm4_route_forward(struct sk_buff *skb)
1052 {
1053         return xfrm_route_forward(skb, AF_INET);
1054 }
1055
1056 static inline int xfrm6_route_forward(struct sk_buff *skb)
1057 {
1058         return xfrm_route_forward(skb, AF_INET6);
1059 }
1060
1061 extern int __xfrm_sk_clone_policy(struct sock *sk);
1062
1063 static inline int xfrm_sk_clone_policy(struct sock *sk)
1064 {
1065         if (unlikely(sk->sk_policy[0] || sk->sk_policy[1]))
1066                 return __xfrm_sk_clone_policy(sk);
1067         return 0;
1068 }
1069
1070 extern int xfrm_policy_delete(struct xfrm_policy *pol, int dir);
1071
1072 static inline void xfrm_sk_free_policy(struct sock *sk)
1073 {
1074         if (unlikely(sk->sk_policy[0] != NULL)) {
1075                 xfrm_policy_delete(sk->sk_policy[0], XFRM_POLICY_MAX);
1076                 sk->sk_policy[0] = NULL;
1077         }
1078         if (unlikely(sk->sk_policy[1] != NULL)) {
1079                 xfrm_policy_delete(sk->sk_policy[1], XFRM_POLICY_MAX+1);
1080                 sk->sk_policy[1] = NULL;
1081         }
1082 }
1083
1084 #else
1085
1086 static inline void xfrm_sk_free_policy(struct sock *sk) {}
1087 static inline int xfrm_sk_clone_policy(struct sock *sk) { return 0; }
1088 static inline int xfrm6_route_forward(struct sk_buff *skb) { return 1; }
1089 static inline int xfrm4_route_forward(struct sk_buff *skb) { return 1; }
1090 static inline int xfrm6_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
1091 {
1092         return 1;
1093 }
1094 static inline int xfrm4_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
1095 {
1096         return 1;
1097 }
1098 static inline int xfrm_policy_check(struct sock *sk, int dir, struct sk_buff *skb, unsigned short family)
1099 {
1100         return 1;
1101 }
1102 static inline int xfrm_decode_session_reverse(struct sk_buff *skb,
1103                                               struct flowi *fl,
1104                                               unsigned int family)
1105 {
1106         return -ENOSYS;
1107 }
1108 static inline int xfrm4_policy_check_reverse(struct sock *sk, int dir,
1109                                              struct sk_buff *skb)
1110 {
1111         return 1;
1112 }
1113 static inline int xfrm6_policy_check_reverse(struct sock *sk, int dir,
1114                                              struct sk_buff *skb)
1115 {
1116         return 1;
1117 }
1118 #endif
1119
1120 static __inline__
1121 xfrm_address_t *xfrm_flowi_daddr(struct flowi *fl, unsigned short family)
1122 {
1123         switch (family){
1124         case AF_INET:
1125                 return (xfrm_address_t *)&fl->fl4_dst;
1126         case AF_INET6:
1127                 return (xfrm_address_t *)&fl->fl6_dst;
1128         }
1129         return NULL;
1130 }
1131
1132 static __inline__
1133 xfrm_address_t *xfrm_flowi_saddr(struct flowi *fl, unsigned short family)
1134 {
1135         switch (family){
1136         case AF_INET:
1137                 return (xfrm_address_t *)&fl->fl4_src;
1138         case AF_INET6:
1139                 return (xfrm_address_t *)&fl->fl6_src;
1140         }
1141         return NULL;
1142 }
1143
1144 static __inline__
1145 void xfrm_flowi_addr_get(struct flowi *fl,
1146                          xfrm_address_t *saddr, xfrm_address_t *daddr,
1147                          unsigned short family)
1148 {
1149         switch(family) {
1150         case AF_INET:
1151                 memcpy(&saddr->a4, &fl->fl4_src, sizeof(saddr->a4));
1152                 memcpy(&daddr->a4, &fl->fl4_dst, sizeof(daddr->a4));
1153                 break;
1154         case AF_INET6:
1155                 ipv6_addr_copy((struct in6_addr *)&saddr->a6, &fl->fl6_src);
1156                 ipv6_addr_copy((struct in6_addr *)&daddr->a6, &fl->fl6_dst);
1157                 break;
1158         }
1159 }
1160
1161 static __inline__ int
1162 __xfrm4_state_addr_check(struct xfrm_state *x,
1163                          xfrm_address_t *daddr, xfrm_address_t *saddr)
1164 {
1165         if (daddr->a4 == x->id.daddr.a4 &&
1166             (saddr->a4 == x->props.saddr.a4 || !saddr->a4 || !x->props.saddr.a4))
1167                 return 1;
1168         return 0;
1169 }
1170
1171 static __inline__ int
1172 __xfrm6_state_addr_check(struct xfrm_state *x,
1173                          xfrm_address_t *daddr, xfrm_address_t *saddr)
1174 {
1175         if (!ipv6_addr_cmp((struct in6_addr *)daddr, (struct in6_addr *)&x->id.daddr) &&
1176             (!ipv6_addr_cmp((struct in6_addr *)saddr, (struct in6_addr *)&x->props.saddr)||
1177              ipv6_addr_any((struct in6_addr *)saddr) ||
1178              ipv6_addr_any((struct in6_addr *)&x->props.saddr)))
1179                 return 1;
1180         return 0;
1181 }
1182
1183 static __inline__ int
1184 xfrm_state_addr_check(struct xfrm_state *x,
1185                       xfrm_address_t *daddr, xfrm_address_t *saddr,
1186                       unsigned short family)
1187 {
1188         switch (family) {
1189         case AF_INET:
1190                 return __xfrm4_state_addr_check(x, daddr, saddr);
1191         case AF_INET6:
1192                 return __xfrm6_state_addr_check(x, daddr, saddr);
1193         }
1194         return 0;
1195 }
1196
1197 static __inline__ int
1198 xfrm_state_addr_flow_check(struct xfrm_state *x, struct flowi *fl,
1199                            unsigned short family)
1200 {
1201         switch (family) {
1202         case AF_INET:
1203                 return __xfrm4_state_addr_check(x,
1204                                                 (xfrm_address_t *)&fl->fl4_dst,
1205                                                 (xfrm_address_t *)&fl->fl4_src);
1206         case AF_INET6:
1207                 return __xfrm6_state_addr_check(x,
1208                                                 (xfrm_address_t *)&fl->fl6_dst,
1209                                                 (xfrm_address_t *)&fl->fl6_src);
1210         }
1211         return 0;
1212 }
1213
1214 static inline int xfrm_state_kern(struct xfrm_state *x)
1215 {
1216         return atomic_read(&x->tunnel_users);
1217 }
1218
1219 static inline int xfrm_id_proto_match(u8 proto, u8 userproto)
1220 {
1221         return (!userproto || proto == userproto ||
1222                 (userproto == IPSEC_PROTO_ANY && (proto == IPPROTO_AH ||
1223                                                   proto == IPPROTO_ESP ||
1224                                                   proto == IPPROTO_COMP)));
1225 }
1226
1227 /*
1228  * xfrm algorithm information
1229  */
1230 struct xfrm_algo_aead_info {
1231         u16 icv_truncbits;
1232 };
1233
1234 struct xfrm_algo_auth_info {
1235         u16 icv_truncbits;
1236         u16 icv_fullbits;
1237 };
1238
1239 struct xfrm_algo_encr_info {
1240         u16 blockbits;
1241         u16 defkeybits;
1242 };
1243
1244 struct xfrm_algo_comp_info {
1245         u16 threshold;
1246 };
1247
1248 struct xfrm_algo_desc {
1249         char *name;
1250         char *compat;
1251         u8 available:1;
1252         union {
1253                 struct xfrm_algo_aead_info aead;
1254                 struct xfrm_algo_auth_info auth;
1255                 struct xfrm_algo_encr_info encr;
1256                 struct xfrm_algo_comp_info comp;
1257         } uinfo;
1258         struct sadb_alg desc;
1259 };
1260
1261 /* XFRM tunnel handlers.  */
1262 struct xfrm_tunnel {
1263         int (*handler)(struct sk_buff *skb);
1264         int (*err_handler)(struct sk_buff *skb, __u32 info);
1265
1266         struct xfrm_tunnel *next;
1267         int priority;
1268 };
1269
1270 struct xfrm6_tunnel {
1271         int (*handler)(struct sk_buff *skb);
1272         int (*err_handler)(struct sk_buff *skb, struct inet6_skb_parm *opt,
1273                            int type, int code, int offset, __be32 info);
1274         struct xfrm6_tunnel *next;
1275         int priority;
1276 };
1277
1278 extern void xfrm_init(void);
1279 extern void xfrm4_init(void);
1280 extern int xfrm_state_init(struct net *net);
1281 extern void xfrm_state_fini(struct net *net);
1282 extern void xfrm4_state_init(void);
1283 #ifdef CONFIG_XFRM
1284 extern int xfrm6_init(void);
1285 extern void xfrm6_fini(void);
1286 extern int xfrm6_state_init(void);
1287 extern void xfrm6_state_fini(void);
1288 #else
1289 static inline int xfrm6_init(void)
1290 {
1291         return 0;
1292 }
1293 static inline void xfrm6_fini(void)
1294 {
1295         ;
1296 }
1297 #endif
1298
1299 #ifdef CONFIG_XFRM_STATISTICS
1300 extern int xfrm_proc_init(void);
1301 #endif
1302
1303 extern void xfrm_state_walk_init(struct xfrm_state_walk *walk, u8 proto);
1304 extern int xfrm_state_walk(struct xfrm_state_walk *walk,
1305                            int (*func)(struct xfrm_state *, int, void*), void *);
1306 extern void xfrm_state_walk_done(struct xfrm_state_walk *walk);
1307 extern struct xfrm_state *xfrm_state_alloc(struct net *net);
1308 extern struct xfrm_state *xfrm_state_find(xfrm_address_t *daddr, xfrm_address_t *saddr,
1309                                           struct flowi *fl, struct xfrm_tmpl *tmpl,
1310                                           struct xfrm_policy *pol, int *err,
1311                                           unsigned short family);
1312 extern struct xfrm_state * xfrm_stateonly_find(xfrm_address_t *daddr,
1313                                                xfrm_address_t *saddr,
1314                                                unsigned short family,
1315                                                u8 mode, u8 proto, u32 reqid);
1316 extern int xfrm_state_check_expire(struct xfrm_state *x);
1317 extern void xfrm_state_insert(struct xfrm_state *x);
1318 extern int xfrm_state_add(struct xfrm_state *x);
1319 extern int xfrm_state_update(struct xfrm_state *x);
1320 extern struct xfrm_state *xfrm_state_lookup(xfrm_address_t *daddr, __be32 spi, u8 proto, unsigned short family);
1321 extern struct xfrm_state *xfrm_state_lookup_byaddr(xfrm_address_t *daddr, xfrm_address_t *saddr, u8 proto, unsigned short family);
1322 #ifdef CONFIG_XFRM_SUB_POLICY
1323 extern int xfrm_tmpl_sort(struct xfrm_tmpl **dst, struct xfrm_tmpl **src,
1324                           int n, unsigned short family);
1325 extern int xfrm_state_sort(struct xfrm_state **dst, struct xfrm_state **src,
1326                            int n, unsigned short family);
1327 #else
1328 static inline int xfrm_tmpl_sort(struct xfrm_tmpl **dst, struct xfrm_tmpl **src,
1329                                  int n, unsigned short family)
1330 {
1331         return -ENOSYS;
1332 }
1333
1334 static inline int xfrm_state_sort(struct xfrm_state **dst, struct xfrm_state **src,
1335                                   int n, unsigned short family)
1336 {
1337         return -ENOSYS;
1338 }
1339 #endif
1340
1341 struct xfrmk_sadinfo {
1342         u32 sadhcnt; /* current hash bkts */
1343         u32 sadhmcnt; /* max allowed hash bkts */
1344         u32 sadcnt; /* current running count */
1345 };
1346
1347 struct xfrmk_spdinfo {
1348         u32 incnt;
1349         u32 outcnt;
1350         u32 fwdcnt;
1351         u32 inscnt;
1352         u32 outscnt;
1353         u32 fwdscnt;
1354         u32 spdhcnt;
1355         u32 spdhmcnt;
1356 };
1357
1358 extern struct xfrm_state *xfrm_find_acq_byseq(u32 seq);
1359 extern int xfrm_state_delete(struct xfrm_state *x);
1360 extern int xfrm_state_flush(u8 proto, struct xfrm_audit *audit_info);
1361 extern void xfrm_sad_getinfo(struct xfrmk_sadinfo *si);
1362 extern void xfrm_spd_getinfo(struct xfrmk_spdinfo *si);
1363 extern int xfrm_replay_check(struct xfrm_state *x,
1364                              struct sk_buff *skb, __be32 seq);
1365 extern void xfrm_replay_advance(struct xfrm_state *x, __be32 seq);
1366 extern void xfrm_replay_notify(struct xfrm_state *x, int event);
1367 extern int xfrm_state_mtu(struct xfrm_state *x, int mtu);
1368 extern int xfrm_init_state(struct xfrm_state *x);
1369 extern int xfrm_prepare_input(struct xfrm_state *x, struct sk_buff *skb);
1370 extern int xfrm_input(struct sk_buff *skb, int nexthdr, __be32 spi,
1371                       int encap_type);
1372 extern int xfrm_input_resume(struct sk_buff *skb, int nexthdr);
1373 extern int xfrm_output_resume(struct sk_buff *skb, int err);
1374 extern int xfrm_output(struct sk_buff *skb);
1375 extern int xfrm_inner_extract_output(struct xfrm_state *x, struct sk_buff *skb);
1376 extern int xfrm4_extract_header(struct sk_buff *skb);
1377 extern int xfrm4_extract_input(struct xfrm_state *x, struct sk_buff *skb);
1378 extern int xfrm4_rcv_encap(struct sk_buff *skb, int nexthdr, __be32 spi,
1379                            int encap_type);
1380 extern int xfrm4_transport_finish(struct sk_buff *skb, int async);
1381 extern int xfrm4_rcv(struct sk_buff *skb);
1382
1383 static inline int xfrm4_rcv_spi(struct sk_buff *skb, int nexthdr, __be32 spi)
1384 {
1385         return xfrm4_rcv_encap(skb, nexthdr, spi, 0);
1386 }
1387
1388 extern int xfrm4_extract_output(struct xfrm_state *x, struct sk_buff *skb);
1389 extern int xfrm4_prepare_output(struct xfrm_state *x, struct sk_buff *skb);
1390 extern int xfrm4_output(struct sk_buff *skb);
1391 extern int xfrm4_tunnel_register(struct xfrm_tunnel *handler, unsigned short family);
1392 extern int xfrm4_tunnel_deregister(struct xfrm_tunnel *handler, unsigned short family);
1393 extern int xfrm6_extract_header(struct sk_buff *skb);
1394 extern int xfrm6_extract_input(struct xfrm_state *x, struct sk_buff *skb);
1395 extern int xfrm6_rcv_spi(struct sk_buff *skb, int nexthdr, __be32 spi);
1396 extern int xfrm6_transport_finish(struct sk_buff *skb, int async);
1397 extern int xfrm6_rcv(struct sk_buff *skb);
1398 extern int xfrm6_input_addr(struct sk_buff *skb, xfrm_address_t *daddr,
1399                             xfrm_address_t *saddr, u8 proto);
1400 extern int xfrm6_tunnel_register(struct xfrm6_tunnel *handler, unsigned short family);
1401 extern int xfrm6_tunnel_deregister(struct xfrm6_tunnel *handler, unsigned short family);
1402 extern __be32 xfrm6_tunnel_alloc_spi(xfrm_address_t *saddr);
1403 extern void xfrm6_tunnel_free_spi(xfrm_address_t *saddr);
1404 extern __be32 xfrm6_tunnel_spi_lookup(xfrm_address_t *saddr);
1405 extern int xfrm6_extract_output(struct xfrm_state *x, struct sk_buff *skb);
1406 extern int xfrm6_prepare_output(struct xfrm_state *x, struct sk_buff *skb);
1407 extern int xfrm6_output(struct sk_buff *skb);
1408 extern int xfrm6_find_1stfragopt(struct xfrm_state *x, struct sk_buff *skb,
1409                                  u8 **prevhdr);
1410
1411 #ifdef CONFIG_XFRM
1412 extern int xfrm4_udp_encap_rcv(struct sock *sk, struct sk_buff *skb);
1413 extern int xfrm_user_policy(struct sock *sk, int optname, u8 __user *optval, int optlen);
1414 #else
1415 static inline int xfrm_user_policy(struct sock *sk, int optname, u8 __user *optval, int optlen)
1416 {
1417         return -ENOPROTOOPT;
1418 }
1419
1420 static inline int xfrm4_udp_encap_rcv(struct sock *sk, struct sk_buff *skb)
1421 {
1422         /* should not happen */
1423         kfree_skb(skb);
1424         return 0;
1425 }
1426 #endif
1427
1428 struct xfrm_policy *xfrm_policy_alloc(gfp_t gfp);
1429
1430 extern void xfrm_policy_walk_init(struct xfrm_policy_walk *walk, u8 type);
1431 extern int xfrm_policy_walk(struct xfrm_policy_walk *walk,
1432         int (*func)(struct xfrm_policy *, int, int, void*), void *);
1433 extern void xfrm_policy_walk_done(struct xfrm_policy_walk *walk);
1434 int xfrm_policy_insert(int dir, struct xfrm_policy *policy, int excl);
1435 struct xfrm_policy *xfrm_policy_bysel_ctx(u8 type, int dir,
1436                                           struct xfrm_selector *sel,
1437                                           struct xfrm_sec_ctx *ctx, int delete,
1438                                           int *err);
1439 struct xfrm_policy *xfrm_policy_byid(u8, int dir, u32 id, int delete, int *err);
1440 int xfrm_policy_flush(u8 type, struct xfrm_audit *audit_info);
1441 u32 xfrm_get_acqseq(void);
1442 extern int xfrm_alloc_spi(struct xfrm_state *x, u32 minspi, u32 maxspi);
1443 struct xfrm_state * xfrm_find_acq(u8 mode, u32 reqid, u8 proto,
1444                                   xfrm_address_t *daddr, xfrm_address_t *saddr,
1445                                   int create, unsigned short family);
1446 extern int xfrm_sk_policy_insert(struct sock *sk, int dir, struct xfrm_policy *pol);
1447 extern int xfrm_bundle_ok(struct xfrm_policy *pol, struct xfrm_dst *xdst,
1448                           struct flowi *fl, int family, int strict);
1449
1450 #ifdef CONFIG_XFRM_MIGRATE
1451 extern int km_migrate(struct xfrm_selector *sel, u8 dir, u8 type,
1452                       struct xfrm_migrate *m, int num_bundles,
1453                       struct xfrm_kmaddress *k);
1454 extern struct xfrm_state * xfrm_migrate_state_find(struct xfrm_migrate *m);
1455 extern struct xfrm_state * xfrm_state_migrate(struct xfrm_state *x,
1456                                               struct xfrm_migrate *m);
1457 extern int xfrm_migrate(struct xfrm_selector *sel, u8 dir, u8 type,
1458                         struct xfrm_migrate *m, int num_bundles,
1459                         struct xfrm_kmaddress *k);
1460 #endif
1461
1462 extern wait_queue_head_t km_waitq;
1463 extern int km_new_mapping(struct xfrm_state *x, xfrm_address_t *ipaddr, __be16 sport);
1464 extern void km_policy_expired(struct xfrm_policy *pol, int dir, int hard, u32 pid);
1465 extern int km_report(u8 proto, struct xfrm_selector *sel, xfrm_address_t *addr);
1466
1467 extern void xfrm_input_init(void);
1468 extern int xfrm_parse_spi(struct sk_buff *skb, u8 nexthdr, __be32 *spi, __be32 *seq);
1469
1470 extern void xfrm_probe_algs(void);
1471 extern int xfrm_count_auth_supported(void);
1472 extern int xfrm_count_enc_supported(void);
1473 extern struct xfrm_algo_desc *xfrm_aalg_get_byidx(unsigned int idx);
1474 extern struct xfrm_algo_desc *xfrm_ealg_get_byidx(unsigned int idx);
1475 extern struct xfrm_algo_desc *xfrm_aalg_get_byid(int alg_id);
1476 extern struct xfrm_algo_desc *xfrm_ealg_get_byid(int alg_id);
1477 extern struct xfrm_algo_desc *xfrm_calg_get_byid(int alg_id);
1478 extern struct xfrm_algo_desc *xfrm_aalg_get_byname(char *name, int probe);
1479 extern struct xfrm_algo_desc *xfrm_ealg_get_byname(char *name, int probe);
1480 extern struct xfrm_algo_desc *xfrm_calg_get_byname(char *name, int probe);
1481 extern struct xfrm_algo_desc *xfrm_aead_get_byname(char *name, int icv_len,
1482                                                    int probe);
1483
1484 struct hash_desc;
1485 struct scatterlist;
1486 typedef int (icv_update_fn_t)(struct hash_desc *, struct scatterlist *,
1487                               unsigned int);
1488
1489 extern int skb_icv_walk(const struct sk_buff *skb, struct hash_desc *tfm,
1490                         int offset, int len, icv_update_fn_t icv_update);
1491
1492 static inline int xfrm_addr_cmp(xfrm_address_t *a, xfrm_address_t *b,
1493                                 int family)
1494 {
1495         switch (family) {
1496         default:
1497         case AF_INET:
1498                 return (__force __u32)a->a4 - (__force __u32)b->a4;
1499         case AF_INET6:
1500                 return ipv6_addr_cmp((struct in6_addr *)a,
1501                                      (struct in6_addr *)b);
1502         }
1503 }
1504
1505 static inline int xfrm_policy_id2dir(u32 index)
1506 {
1507         return index & 7;
1508 }
1509
1510 static inline int xfrm_aevent_is_on(void)
1511 {
1512         struct sock *nlsk;
1513         int ret = 0;
1514
1515         rcu_read_lock();
1516         nlsk = rcu_dereference(xfrm_nl);
1517         if (nlsk)
1518                 ret = netlink_has_listeners(nlsk, XFRMNLGRP_AEVENTS);
1519         rcu_read_unlock();
1520         return ret;
1521 }
1522
1523 static inline int xfrm_alg_len(struct xfrm_algo *alg)
1524 {
1525         return sizeof(*alg) + ((alg->alg_key_len + 7) / 8);
1526 }
1527
1528 #ifdef CONFIG_XFRM_MIGRATE
1529 static inline struct xfrm_algo *xfrm_algo_clone(struct xfrm_algo *orig)
1530 {
1531         return kmemdup(orig, xfrm_alg_len(orig), GFP_KERNEL);
1532 }
1533
1534 static inline void xfrm_states_put(struct xfrm_state **states, int n)
1535 {
1536         int i;
1537         for (i = 0; i < n; i++)
1538                 xfrm_state_put(*(states + i));
1539 }
1540
1541 static inline void xfrm_states_delete(struct xfrm_state **states, int n)
1542 {
1543         int i;
1544         for (i = 0; i < n; i++)
1545                 xfrm_state_delete(*(states + i));
1546 }
1547 #endif
1548
1549 #ifdef CONFIG_XFRM
1550 static inline struct xfrm_state *xfrm_input_state(struct sk_buff *skb)
1551 {
1552         return skb->sp->xvec[skb->sp->len - 1];
1553 }
1554 #endif
1555
1556 #endif  /* _NET_XFRM_H */