netfilter: ipt_CLUSTERIP: fix out-of-bounds accesses in clusterip_tg_check()
[pandora-kernel.git] / net / ipv4 / netfilter / ipt_CLUSTERIP.c
1 /* Cluster IP hashmark target
2  * (C) 2003-2004 by Harald Welte <laforge@netfilter.org>
3  * based on ideas of Fabio Olive Leite <olive@unixforge.org>
4  *
5  * Development of this code funded by SuSE Linux AG, http://www.suse.com/
6  *
7  * This program is free software; you can redistribute it and/or modify
8  * it under the terms of the GNU General Public License version 2 as
9  * published by the Free Software Foundation.
10  *
11  */
12 #define pr_fmt(fmt) KBUILD_MODNAME ": " fmt
13 #include <linux/module.h>
14 #include <linux/proc_fs.h>
15 #include <linux/jhash.h>
16 #include <linux/bitops.h>
17 #include <linux/skbuff.h>
18 #include <linux/slab.h>
19 #include <linux/ip.h>
20 #include <linux/tcp.h>
21 #include <linux/udp.h>
22 #include <linux/icmp.h>
23 #include <linux/if_arp.h>
24 #include <linux/seq_file.h>
25 #include <linux/netfilter_arp.h>
26 #include <linux/netfilter/x_tables.h>
27 #include <linux/netfilter_ipv4/ip_tables.h>
28 #include <linux/netfilter_ipv4/ipt_CLUSTERIP.h>
29 #include <net/netfilter/nf_conntrack.h>
30 #include <net/net_namespace.h>
31 #include <net/checksum.h>
32 #include <net/ip.h>
33
34 #define CLUSTERIP_VERSION "0.8"
35
36 MODULE_LICENSE("GPL");
37 MODULE_AUTHOR("Harald Welte <laforge@netfilter.org>");
38 MODULE_DESCRIPTION("Xtables: CLUSTERIP target");
39
40 struct clusterip_config {
41         struct list_head list;                  /* list of all configs */
42         atomic_t refcount;                      /* reference count */
43         atomic_t entries;                       /* number of entries/rules
44                                                  * referencing us */
45
46         __be32 clusterip;                       /* the IP address */
47         u_int8_t clustermac[ETH_ALEN];          /* the MAC address */
48         struct net_device *dev;                 /* device */
49         u_int16_t num_total_nodes;              /* total number of nodes */
50         unsigned long local_nodes;              /* node number array */
51
52 #ifdef CONFIG_PROC_FS
53         struct proc_dir_entry *pde;             /* proc dir entry */
54 #endif
55         enum clusterip_hashmode hash_mode;      /* which hashing mode */
56         u_int32_t hash_initval;                 /* hash initialization */
57         struct rcu_head rcu;
58 };
59
60 static LIST_HEAD(clusterip_configs);
61
62 /* clusterip_lock protects the clusterip_configs list */
63 static DEFINE_SPINLOCK(clusterip_lock);
64
65 #ifdef CONFIG_PROC_FS
66 static const struct file_operations clusterip_proc_fops;
67 static struct proc_dir_entry *clusterip_procdir;
68 #endif
69
70 static inline void
71 clusterip_config_get(struct clusterip_config *c)
72 {
73         atomic_inc(&c->refcount);
74 }
75
76
77 static void clusterip_config_rcu_free(struct rcu_head *head)
78 {
79         kfree(container_of(head, struct clusterip_config, rcu));
80 }
81
82 static inline void
83 clusterip_config_put(struct clusterip_config *c)
84 {
85         if (atomic_dec_and_test(&c->refcount))
86                 call_rcu_bh(&c->rcu, clusterip_config_rcu_free);
87 }
88
89 /* decrease the count of entries using/referencing this config.  If last
90  * entry(rule) is removed, remove the config from lists, but don't free it
91  * yet, since proc-files could still be holding references */
92 static inline void
93 clusterip_config_entry_put(struct clusterip_config *c)
94 {
95         local_bh_disable();
96         if (atomic_dec_and_lock(&c->entries, &clusterip_lock)) {
97                 list_del_rcu(&c->list);
98                 spin_unlock(&clusterip_lock);
99                 local_bh_enable();
100
101                 dev_mc_del(c->dev, c->clustermac);
102                 dev_put(c->dev);
103
104                 /* In case anyone still accesses the file, the open/close
105                  * functions are also incrementing the refcount on their own,
106                  * so it's safe to remove the entry even if it's in use. */
107 #ifdef CONFIG_PROC_FS
108                 remove_proc_entry(c->pde->name, c->pde->parent);
109 #endif
110                 return;
111         }
112         local_bh_enable();
113 }
114
115 static struct clusterip_config *
116 __clusterip_config_find(__be32 clusterip)
117 {
118         struct clusterip_config *c;
119
120         list_for_each_entry_rcu(c, &clusterip_configs, list) {
121                 if (c->clusterip == clusterip)
122                         return c;
123         }
124
125         return NULL;
126 }
127
128 static inline struct clusterip_config *
129 clusterip_config_find_get(__be32 clusterip, int entry)
130 {
131         struct clusterip_config *c;
132
133         rcu_read_lock_bh();
134         c = __clusterip_config_find(clusterip);
135         if (c) {
136                 if (unlikely(!atomic_inc_not_zero(&c->refcount)))
137                         c = NULL;
138                 else if (entry)
139                         atomic_inc(&c->entries);
140         }
141         rcu_read_unlock_bh();
142
143         return c;
144 }
145
146 static void
147 clusterip_config_init_nodelist(struct clusterip_config *c,
148                                const struct ipt_clusterip_tgt_info *i)
149 {
150         int n;
151
152         for (n = 0; n < i->num_local_nodes; n++)
153                 set_bit(i->local_nodes[n] - 1, &c->local_nodes);
154 }
155
156 static struct clusterip_config *
157 clusterip_config_init(const struct ipt_clusterip_tgt_info *i, __be32 ip,
158                         struct net_device *dev)
159 {
160         struct clusterip_config *c;
161
162         c = kzalloc(sizeof(*c), GFP_ATOMIC);
163         if (!c)
164                 return NULL;
165
166         c->dev = dev;
167         c->clusterip = ip;
168         memcpy(&c->clustermac, &i->clustermac, ETH_ALEN);
169         c->num_total_nodes = i->num_total_nodes;
170         clusterip_config_init_nodelist(c, i);
171         c->hash_mode = i->hash_mode;
172         c->hash_initval = i->hash_initval;
173         atomic_set(&c->refcount, 1);
174         atomic_set(&c->entries, 1);
175
176 #ifdef CONFIG_PROC_FS
177         {
178                 char buffer[16];
179
180                 /* create proc dir entry */
181                 sprintf(buffer, "%pI4", &ip);
182                 c->pde = proc_create_data(buffer, S_IWUSR|S_IRUSR,
183                                           clusterip_procdir,
184                                           &clusterip_proc_fops, c);
185                 if (!c->pde) {
186                         kfree(c);
187                         return NULL;
188                 }
189         }
190 #endif
191
192         spin_lock_bh(&clusterip_lock);
193         list_add_rcu(&c->list, &clusterip_configs);
194         spin_unlock_bh(&clusterip_lock);
195
196         return c;
197 }
198
199 #ifdef CONFIG_PROC_FS
200 static int
201 clusterip_add_node(struct clusterip_config *c, u_int16_t nodenum)
202 {
203
204         if (nodenum == 0 ||
205             nodenum > c->num_total_nodes)
206                 return 1;
207
208         /* check if we already have this number in our bitfield */
209         if (test_and_set_bit(nodenum - 1, &c->local_nodes))
210                 return 1;
211
212         return 0;
213 }
214
215 static bool
216 clusterip_del_node(struct clusterip_config *c, u_int16_t nodenum)
217 {
218         if (nodenum == 0 ||
219             nodenum > c->num_total_nodes)
220                 return true;
221
222         if (test_and_clear_bit(nodenum - 1, &c->local_nodes))
223                 return false;
224
225         return true;
226 }
227 #endif
228
229 static inline u_int32_t
230 clusterip_hashfn(const struct sk_buff *skb,
231                  const struct clusterip_config *config)
232 {
233         const struct iphdr *iph = ip_hdr(skb);
234         unsigned long hashval;
235         u_int16_t sport = 0, dport = 0;
236         int poff;
237
238         poff = proto_ports_offset(iph->protocol);
239         if (poff >= 0) {
240                 const u_int16_t *ports;
241                 u16 _ports[2];
242
243                 ports = skb_header_pointer(skb, iph->ihl * 4 + poff, 4, _ports);
244                 if (ports) {
245                         sport = ports[0];
246                         dport = ports[1];
247                 }
248         } else {
249                 if (net_ratelimit())
250                         pr_info("unknown protocol %u\n", iph->protocol);
251         }
252
253         switch (config->hash_mode) {
254         case CLUSTERIP_HASHMODE_SIP:
255                 hashval = jhash_1word(ntohl(iph->saddr),
256                                       config->hash_initval);
257                 break;
258         case CLUSTERIP_HASHMODE_SIP_SPT:
259                 hashval = jhash_2words(ntohl(iph->saddr), sport,
260                                        config->hash_initval);
261                 break;
262         case CLUSTERIP_HASHMODE_SIP_SPT_DPT:
263                 hashval = jhash_3words(ntohl(iph->saddr), sport, dport,
264                                        config->hash_initval);
265                 break;
266         default:
267                 /* to make gcc happy */
268                 hashval = 0;
269                 /* This cannot happen, unless the check function wasn't called
270                  * at rule load time */
271                 pr_info("unknown mode %u\n", config->hash_mode);
272                 BUG();
273                 break;
274         }
275
276         /* node numbers are 1..n, not 0..n */
277         return (((u64)hashval * config->num_total_nodes) >> 32) + 1;
278 }
279
280 static inline int
281 clusterip_responsible(const struct clusterip_config *config, u_int32_t hash)
282 {
283         return test_bit(hash - 1, &config->local_nodes);
284 }
285
286 /***********************************************************************
287  * IPTABLES TARGET
288  ***********************************************************************/
289
290 static unsigned int
291 clusterip_tg(struct sk_buff *skb, const struct xt_action_param *par)
292 {
293         const struct ipt_clusterip_tgt_info *cipinfo = par->targinfo;
294         struct nf_conn *ct;
295         enum ip_conntrack_info ctinfo;
296         u_int32_t hash;
297
298         /* don't need to clusterip_config_get() here, since refcount
299          * is only decremented by destroy() - and ip_tables guarantees
300          * that the ->target() function isn't called after ->destroy() */
301
302         ct = nf_ct_get(skb, &ctinfo);
303         if (ct == NULL)
304                 return NF_DROP;
305
306         /* special case: ICMP error handling. conntrack distinguishes between
307          * error messages (RELATED) and information requests (see below) */
308         if (ip_hdr(skb)->protocol == IPPROTO_ICMP &&
309             (ctinfo == IP_CT_RELATED ||
310              ctinfo == IP_CT_RELATED_REPLY))
311                 return XT_CONTINUE;
312
313         /* ip_conntrack_icmp guarantees us that we only have ICMP_ECHO,
314          * TIMESTAMP, INFO_REQUEST or ADDRESS type icmp packets from here
315          * on, which all have an ID field [relevant for hashing]. */
316
317         hash = clusterip_hashfn(skb, cipinfo->config);
318
319         switch (ctinfo) {
320         case IP_CT_NEW:
321                 ct->mark = hash;
322                 break;
323         case IP_CT_RELATED:
324         case IP_CT_RELATED_REPLY:
325                 /* FIXME: we don't handle expectations at the moment.
326                  * They can arrive on a different node than
327                  * the master connection (e.g. FTP passive mode) */
328         case IP_CT_ESTABLISHED:
329         case IP_CT_ESTABLISHED_REPLY:
330                 break;
331         default:                        /* Prevent gcc warnings */
332                 break;
333         }
334
335 #ifdef DEBUG
336         nf_ct_dump_tuple_ip(&ct->tuplehash[IP_CT_DIR_ORIGINAL].tuple);
337 #endif
338         pr_debug("hash=%u ct_hash=%u ", hash, ct->mark);
339         if (!clusterip_responsible(cipinfo->config, hash)) {
340                 pr_debug("not responsible\n");
341                 return NF_DROP;
342         }
343         pr_debug("responsible\n");
344
345         /* despite being received via linklayer multicast, this is
346          * actually a unicast IP packet. TCP doesn't like PACKET_MULTICAST */
347         skb->pkt_type = PACKET_HOST;
348
349         return XT_CONTINUE;
350 }
351
352 static int clusterip_tg_check(const struct xt_tgchk_param *par)
353 {
354         struct ipt_clusterip_tgt_info *cipinfo = par->targinfo;
355         const struct ipt_entry *e = par->entryinfo;
356         struct clusterip_config *config;
357         int ret, i;
358
359         if (cipinfo->hash_mode != CLUSTERIP_HASHMODE_SIP &&
360             cipinfo->hash_mode != CLUSTERIP_HASHMODE_SIP_SPT &&
361             cipinfo->hash_mode != CLUSTERIP_HASHMODE_SIP_SPT_DPT) {
362                 pr_info("unknown mode %u\n", cipinfo->hash_mode);
363                 return -EINVAL;
364
365         }
366         if (e->ip.dmsk.s_addr != htonl(0xffffffff) ||
367             e->ip.dst.s_addr == 0) {
368                 pr_info("Please specify destination IP\n");
369                 return -EINVAL;
370         }
371         if (cipinfo->num_local_nodes > ARRAY_SIZE(cipinfo->local_nodes)) {
372                 pr_info("bad num_local_nodes %u\n", cipinfo->num_local_nodes);
373                 return -EINVAL;
374         }
375         for (i = 0; i < cipinfo->num_local_nodes; i++) {
376                 if (cipinfo->local_nodes[i] - 1 >=
377                     sizeof(config->local_nodes) * 8) {
378                         pr_info("bad local_nodes[%d] %u\n",
379                                 i, cipinfo->local_nodes[i]);
380                         return -EINVAL;
381                 }
382         }
383
384         config = clusterip_config_find_get(e->ip.dst.s_addr, 1);
385         if (!config) {
386                 if (!(cipinfo->flags & CLUSTERIP_FLAG_NEW)) {
387                         pr_info("no config found for %pI4, need 'new'\n",
388                                 &e->ip.dst.s_addr);
389                         return -EINVAL;
390                 } else {
391                         struct net_device *dev;
392
393                         if (e->ip.iniface[0] == '\0') {
394                                 pr_info("Please specify an interface name\n");
395                                 return -EINVAL;
396                         }
397
398                         dev = dev_get_by_name(&init_net, e->ip.iniface);
399                         if (!dev) {
400                                 pr_info("no such interface %s\n",
401                                         e->ip.iniface);
402                                 return -ENOENT;
403                         }
404
405                         config = clusterip_config_init(cipinfo,
406                                                         e->ip.dst.s_addr, dev);
407                         if (!config) {
408                                 dev_put(dev);
409                                 return -ENOMEM;
410                         }
411                         dev_mc_add(config->dev, config->clustermac);
412                 }
413         }
414         cipinfo->config = config;
415
416         ret = nf_ct_l3proto_try_module_get(par->family);
417         if (ret < 0)
418                 pr_info("cannot load conntrack support for proto=%u\n",
419                         par->family);
420         return ret;
421 }
422
423 /* drop reference count of cluster config when rule is deleted */
424 static void clusterip_tg_destroy(const struct xt_tgdtor_param *par)
425 {
426         const struct ipt_clusterip_tgt_info *cipinfo = par->targinfo;
427
428         /* if no more entries are referencing the config, remove it
429          * from the list and destroy the proc entry */
430         clusterip_config_entry_put(cipinfo->config);
431
432         clusterip_config_put(cipinfo->config);
433
434         nf_ct_l3proto_module_put(par->family);
435 }
436
437 #ifdef CONFIG_COMPAT
438 struct compat_ipt_clusterip_tgt_info
439 {
440         u_int32_t       flags;
441         u_int8_t        clustermac[6];
442         u_int16_t       num_total_nodes;
443         u_int16_t       num_local_nodes;
444         u_int16_t       local_nodes[CLUSTERIP_MAX_NODES];
445         u_int32_t       hash_mode;
446         u_int32_t       hash_initval;
447         compat_uptr_t   config;
448 };
449 #endif /* CONFIG_COMPAT */
450
451 static struct xt_target clusterip_tg_reg __read_mostly = {
452         .name           = "CLUSTERIP",
453         .family         = NFPROTO_IPV4,
454         .target         = clusterip_tg,
455         .checkentry     = clusterip_tg_check,
456         .destroy        = clusterip_tg_destroy,
457         .targetsize     = sizeof(struct ipt_clusterip_tgt_info),
458 #ifdef CONFIG_COMPAT
459         .compatsize     = sizeof(struct compat_ipt_clusterip_tgt_info),
460 #endif /* CONFIG_COMPAT */
461         .me             = THIS_MODULE
462 };
463
464
465 /***********************************************************************
466  * ARP MANGLING CODE
467  ***********************************************************************/
468
469 /* hardcoded for 48bit ethernet and 32bit ipv4 addresses */
470 struct arp_payload {
471         u_int8_t src_hw[ETH_ALEN];
472         __be32 src_ip;
473         u_int8_t dst_hw[ETH_ALEN];
474         __be32 dst_ip;
475 } __packed;
476
477 #ifdef DEBUG
478 static void arp_print(struct arp_payload *payload)
479 {
480 #define HBUFFERLEN 30
481         char hbuffer[HBUFFERLEN];
482         int j,k;
483
484         for (k=0, j=0; k < HBUFFERLEN-3 && j < ETH_ALEN; j++) {
485                 hbuffer[k++] = hex_asc_hi(payload->src_hw[j]);
486                 hbuffer[k++] = hex_asc_lo(payload->src_hw[j]);
487                 hbuffer[k++]=':';
488         }
489         hbuffer[--k]='\0';
490
491         pr_debug("src %pI4@%s, dst %pI4\n",
492                  &payload->src_ip, hbuffer, &payload->dst_ip);
493 }
494 #endif
495
496 static unsigned int
497 arp_mangle(unsigned int hook,
498            struct sk_buff *skb,
499            const struct net_device *in,
500            const struct net_device *out,
501            int (*okfn)(struct sk_buff *))
502 {
503         struct arphdr *arp = arp_hdr(skb);
504         struct arp_payload *payload;
505         struct clusterip_config *c;
506
507         /* we don't care about non-ethernet and non-ipv4 ARP */
508         if (arp->ar_hrd != htons(ARPHRD_ETHER) ||
509             arp->ar_pro != htons(ETH_P_IP) ||
510             arp->ar_pln != 4 || arp->ar_hln != ETH_ALEN)
511                 return NF_ACCEPT;
512
513         /* we only want to mangle arp requests and replies */
514         if (arp->ar_op != htons(ARPOP_REPLY) &&
515             arp->ar_op != htons(ARPOP_REQUEST))
516                 return NF_ACCEPT;
517
518         payload = (void *)(arp+1);
519
520         /* if there is no clusterip configuration for the arp reply's
521          * source ip, we don't want to mangle it */
522         c = clusterip_config_find_get(payload->src_ip, 0);
523         if (!c)
524                 return NF_ACCEPT;
525
526         /* normally the linux kernel always replies to arp queries of
527          * addresses on different interfacs.  However, in the CLUSTERIP case
528          * this wouldn't work, since we didn't subscribe the mcast group on
529          * other interfaces */
530         if (c->dev != out) {
531                 pr_debug("not mangling arp reply on different "
532                          "interface: cip'%s'-skb'%s'\n",
533                          c->dev->name, out->name);
534                 clusterip_config_put(c);
535                 return NF_ACCEPT;
536         }
537
538         /* mangle reply hardware address */
539         memcpy(payload->src_hw, c->clustermac, arp->ar_hln);
540
541 #ifdef DEBUG
542         pr_debug("mangled arp reply: ");
543         arp_print(payload);
544 #endif
545
546         clusterip_config_put(c);
547
548         return NF_ACCEPT;
549 }
550
551 static struct nf_hook_ops cip_arp_ops __read_mostly = {
552         .hook = arp_mangle,
553         .pf = NFPROTO_ARP,
554         .hooknum = NF_ARP_OUT,
555         .priority = -1
556 };
557
558 /***********************************************************************
559  * PROC DIR HANDLING
560  ***********************************************************************/
561
562 #ifdef CONFIG_PROC_FS
563
564 struct clusterip_seq_position {
565         unsigned int pos;       /* position */
566         unsigned int weight;    /* number of bits set == size */
567         unsigned int bit;       /* current bit */
568         unsigned long val;      /* current value */
569 };
570
571 static void *clusterip_seq_start(struct seq_file *s, loff_t *pos)
572 {
573         struct clusterip_config *c = s->private;
574         unsigned int weight;
575         u_int32_t local_nodes;
576         struct clusterip_seq_position *idx;
577
578         /* FIXME: possible race */
579         local_nodes = c->local_nodes;
580         weight = hweight32(local_nodes);
581         if (*pos >= weight)
582                 return NULL;
583
584         idx = kmalloc(sizeof(struct clusterip_seq_position), GFP_KERNEL);
585         if (!idx)
586                 return ERR_PTR(-ENOMEM);
587
588         idx->pos = *pos;
589         idx->weight = weight;
590         idx->bit = ffs(local_nodes);
591         idx->val = local_nodes;
592         clear_bit(idx->bit - 1, &idx->val);
593
594         return idx;
595 }
596
597 static void *clusterip_seq_next(struct seq_file *s, void *v, loff_t *pos)
598 {
599         struct clusterip_seq_position *idx = v;
600
601         *pos = ++idx->pos;
602         if (*pos >= idx->weight) {
603                 kfree(v);
604                 return NULL;
605         }
606         idx->bit = ffs(idx->val);
607         clear_bit(idx->bit - 1, &idx->val);
608         return idx;
609 }
610
611 static void clusterip_seq_stop(struct seq_file *s, void *v)
612 {
613         if (!IS_ERR(v))
614                 kfree(v);
615 }
616
617 static int clusterip_seq_show(struct seq_file *s, void *v)
618 {
619         struct clusterip_seq_position *idx = v;
620
621         if (idx->pos != 0)
622                 seq_putc(s, ',');
623
624         seq_printf(s, "%u", idx->bit);
625
626         if (idx->pos == idx->weight - 1)
627                 seq_putc(s, '\n');
628
629         return 0;
630 }
631
632 static const struct seq_operations clusterip_seq_ops = {
633         .start  = clusterip_seq_start,
634         .next   = clusterip_seq_next,
635         .stop   = clusterip_seq_stop,
636         .show   = clusterip_seq_show,
637 };
638
639 static int clusterip_proc_open(struct inode *inode, struct file *file)
640 {
641         int ret = seq_open(file, &clusterip_seq_ops);
642
643         if (!ret) {
644                 struct seq_file *sf = file->private_data;
645                 struct clusterip_config *c = PDE(inode)->data;
646
647                 sf->private = c;
648
649                 clusterip_config_get(c);
650         }
651
652         return ret;
653 }
654
655 static int clusterip_proc_release(struct inode *inode, struct file *file)
656 {
657         struct clusterip_config *c = PDE(inode)->data;
658         int ret;
659
660         ret = seq_release(inode, file);
661
662         if (!ret)
663                 clusterip_config_put(c);
664
665         return ret;
666 }
667
668 static ssize_t clusterip_proc_write(struct file *file, const char __user *input,
669                                 size_t size, loff_t *ofs)
670 {
671         struct clusterip_config *c = PDE(file->f_path.dentry->d_inode)->data;
672 #define PROC_WRITELEN   10
673         char buffer[PROC_WRITELEN+1];
674         unsigned long nodenum;
675
676         if (size > PROC_WRITELEN)
677                 return -EIO;
678         if (copy_from_user(buffer, input, size))
679                 return -EFAULT;
680         buffer[size] = 0;
681
682         if (*buffer == '+') {
683                 nodenum = simple_strtoul(buffer+1, NULL, 10);
684                 if (clusterip_add_node(c, nodenum))
685                         return -ENOMEM;
686         } else if (*buffer == '-') {
687                 nodenum = simple_strtoul(buffer+1, NULL,10);
688                 if (clusterip_del_node(c, nodenum))
689                         return -ENOENT;
690         } else
691                 return -EIO;
692
693         return size;
694 }
695
696 static const struct file_operations clusterip_proc_fops = {
697         .owner   = THIS_MODULE,
698         .open    = clusterip_proc_open,
699         .read    = seq_read,
700         .write   = clusterip_proc_write,
701         .llseek  = seq_lseek,
702         .release = clusterip_proc_release,
703 };
704
705 #endif /* CONFIG_PROC_FS */
706
707 static int __init clusterip_tg_init(void)
708 {
709         int ret;
710
711         ret = xt_register_target(&clusterip_tg_reg);
712         if (ret < 0)
713                 return ret;
714
715         ret = nf_register_hook(&cip_arp_ops);
716         if (ret < 0)
717                 goto cleanup_target;
718
719 #ifdef CONFIG_PROC_FS
720         clusterip_procdir = proc_mkdir("ipt_CLUSTERIP", init_net.proc_net);
721         if (!clusterip_procdir) {
722                 pr_err("Unable to proc dir entry\n");
723                 ret = -ENOMEM;
724                 goto cleanup_hook;
725         }
726 #endif /* CONFIG_PROC_FS */
727
728         pr_info("ClusterIP Version %s loaded successfully\n",
729                 CLUSTERIP_VERSION);
730         return 0;
731
732 #ifdef CONFIG_PROC_FS
733 cleanup_hook:
734         nf_unregister_hook(&cip_arp_ops);
735 #endif /* CONFIG_PROC_FS */
736 cleanup_target:
737         xt_unregister_target(&clusterip_tg_reg);
738         return ret;
739 }
740
741 static void __exit clusterip_tg_exit(void)
742 {
743         pr_info("ClusterIP Version %s unloading\n", CLUSTERIP_VERSION);
744 #ifdef CONFIG_PROC_FS
745         remove_proc_entry(clusterip_procdir->name, clusterip_procdir->parent);
746 #endif
747         nf_unregister_hook(&cip_arp_ops);
748         xt_unregister_target(&clusterip_tg_reg);
749
750         /* Wait for completion of call_rcu_bh()'s (clusterip_config_rcu_free) */
751         rcu_barrier_bh();
752 }
753
754 module_init(clusterip_tg_init);
755 module_exit(clusterip_tg_exit);