Merge git://git.kernel.org/pub/scm/linux/kernel/git/davem/net
[pandora-kernel.git] / net / xfrm / xfrm_user.c
1 /* xfrm_user.c: User interface to configure xfrm engine.
2  *
3  * Copyright (C) 2002 David S. Miller (davem@redhat.com)
4  *
5  * Changes:
6  *      Mitsuru KANDA @USAGI
7  *      Kazunori MIYAZAWA @USAGI
8  *      Kunihiro Ishiguro <kunihiro@ipinfusion.com>
9  *              IPv6 support
10  *
11  */
12
13 #include <linux/crypto.h>
14 #include <linux/module.h>
15 #include <linux/kernel.h>
16 #include <linux/types.h>
17 #include <linux/slab.h>
18 #include <linux/socket.h>
19 #include <linux/string.h>
20 #include <linux/net.h>
21 #include <linux/skbuff.h>
22 #include <linux/pfkeyv2.h>
23 #include <linux/ipsec.h>
24 #include <linux/init.h>
25 #include <linux/security.h>
26 #include <net/sock.h>
27 #include <net/xfrm.h>
28 #include <net/netlink.h>
29 #include <net/ah.h>
30 #include <asm/uaccess.h>
31 #if IS_ENABLED(CONFIG_IPV6)
32 #include <linux/in6.h>
33 #endif
34
35 static int verify_one_alg(struct nlattr **attrs, enum xfrm_attr_type_t type)
36 {
37         struct nlattr *rt = attrs[type];
38         struct xfrm_algo *algp;
39
40         if (!rt)
41                 return 0;
42
43         algp = nla_data(rt);
44         if (nla_len(rt) < xfrm_alg_len(algp))
45                 return -EINVAL;
46
47         switch (type) {
48         case XFRMA_ALG_AUTH:
49         case XFRMA_ALG_CRYPT:
50         case XFRMA_ALG_COMP:
51                 break;
52
53         default:
54                 return -EINVAL;
55         }
56
57         algp->alg_name[CRYPTO_MAX_ALG_NAME - 1] = '\0';
58         return 0;
59 }
60
61 static int verify_auth_trunc(struct nlattr **attrs)
62 {
63         struct nlattr *rt = attrs[XFRMA_ALG_AUTH_TRUNC];
64         struct xfrm_algo_auth *algp;
65
66         if (!rt)
67                 return 0;
68
69         algp = nla_data(rt);
70         if (nla_len(rt) < xfrm_alg_auth_len(algp))
71                 return -EINVAL;
72
73         algp->alg_name[CRYPTO_MAX_ALG_NAME - 1] = '\0';
74         return 0;
75 }
76
77 static int verify_aead(struct nlattr **attrs)
78 {
79         struct nlattr *rt = attrs[XFRMA_ALG_AEAD];
80         struct xfrm_algo_aead *algp;
81
82         if (!rt)
83                 return 0;
84
85         algp = nla_data(rt);
86         if (nla_len(rt) < aead_len(algp))
87                 return -EINVAL;
88
89         algp->alg_name[CRYPTO_MAX_ALG_NAME - 1] = '\0';
90         return 0;
91 }
92
93 static void verify_one_addr(struct nlattr **attrs, enum xfrm_attr_type_t type,
94                            xfrm_address_t **addrp)
95 {
96         struct nlattr *rt = attrs[type];
97
98         if (rt && addrp)
99                 *addrp = nla_data(rt);
100 }
101
102 static inline int verify_sec_ctx_len(struct nlattr **attrs)
103 {
104         struct nlattr *rt = attrs[XFRMA_SEC_CTX];
105         struct xfrm_user_sec_ctx *uctx;
106
107         if (!rt)
108                 return 0;
109
110         uctx = nla_data(rt);
111         if (uctx->len != (sizeof(struct xfrm_user_sec_ctx) + uctx->ctx_len))
112                 return -EINVAL;
113
114         return 0;
115 }
116
117 static inline int verify_replay(struct xfrm_usersa_info *p,
118                                 struct nlattr **attrs)
119 {
120         struct nlattr *rt = attrs[XFRMA_REPLAY_ESN_VAL];
121         struct xfrm_replay_state_esn *rs;
122
123         if (p->flags & XFRM_STATE_ESN) {
124                 if (!rt)
125                         return -EINVAL;
126
127                 rs = nla_data(rt);
128
129                 if (rs->bmp_len > XFRMA_REPLAY_ESN_MAX / sizeof(rs->bmp[0]) / 8)
130                         return -EINVAL;
131
132                 if (nla_len(rt) < xfrm_replay_state_esn_len(rs) &&
133                     nla_len(rt) != sizeof(*rs))
134                         return -EINVAL;
135         }
136
137         if (!rt)
138                 return 0;
139
140         /* As only ESP and AH support ESN feature. */
141         if ((p->id.proto != IPPROTO_ESP) && (p->id.proto != IPPROTO_AH))
142                 return -EINVAL;
143
144         if (p->replay_window != 0)
145                 return -EINVAL;
146
147         return 0;
148 }
149
150 static int verify_newsa_info(struct xfrm_usersa_info *p,
151                              struct nlattr **attrs)
152 {
153         int err;
154
155         err = -EINVAL;
156         switch (p->family) {
157         case AF_INET:
158                 break;
159
160         case AF_INET6:
161 #if IS_ENABLED(CONFIG_IPV6)
162                 break;
163 #else
164                 err = -EAFNOSUPPORT;
165                 goto out;
166 #endif
167
168         default:
169                 goto out;
170         }
171
172         err = -EINVAL;
173         switch (p->id.proto) {
174         case IPPROTO_AH:
175                 if ((!attrs[XFRMA_ALG_AUTH]     &&
176                      !attrs[XFRMA_ALG_AUTH_TRUNC]) ||
177                     attrs[XFRMA_ALG_AEAD]       ||
178                     attrs[XFRMA_ALG_CRYPT]      ||
179                     attrs[XFRMA_ALG_COMP]       ||
180                     attrs[XFRMA_TFCPAD]         ||
181                     (ntohl(p->id.spi) >= 0x10000))
182
183                         goto out;
184                 break;
185
186         case IPPROTO_ESP:
187                 if (attrs[XFRMA_ALG_COMP])
188                         goto out;
189                 if (!attrs[XFRMA_ALG_AUTH] &&
190                     !attrs[XFRMA_ALG_AUTH_TRUNC] &&
191                     !attrs[XFRMA_ALG_CRYPT] &&
192                     !attrs[XFRMA_ALG_AEAD])
193                         goto out;
194                 if ((attrs[XFRMA_ALG_AUTH] ||
195                      attrs[XFRMA_ALG_AUTH_TRUNC] ||
196                      attrs[XFRMA_ALG_CRYPT]) &&
197                     attrs[XFRMA_ALG_AEAD])
198                         goto out;
199                 if (attrs[XFRMA_TFCPAD] &&
200                     p->mode != XFRM_MODE_TUNNEL)
201                         goto out;
202                 break;
203
204         case IPPROTO_COMP:
205                 if (!attrs[XFRMA_ALG_COMP]      ||
206                     attrs[XFRMA_ALG_AEAD]       ||
207                     attrs[XFRMA_ALG_AUTH]       ||
208                     attrs[XFRMA_ALG_AUTH_TRUNC] ||
209                     attrs[XFRMA_ALG_CRYPT]      ||
210                     attrs[XFRMA_TFCPAD])
211                         goto out;
212                 break;
213
214 #if IS_ENABLED(CONFIG_IPV6)
215         case IPPROTO_DSTOPTS:
216         case IPPROTO_ROUTING:
217                 if (attrs[XFRMA_ALG_COMP]       ||
218                     attrs[XFRMA_ALG_AUTH]       ||
219                     attrs[XFRMA_ALG_AUTH_TRUNC] ||
220                     attrs[XFRMA_ALG_AEAD]       ||
221                     attrs[XFRMA_ALG_CRYPT]      ||
222                     attrs[XFRMA_ENCAP]          ||
223                     attrs[XFRMA_SEC_CTX]        ||
224                     attrs[XFRMA_TFCPAD]         ||
225                     !attrs[XFRMA_COADDR])
226                         goto out;
227                 break;
228 #endif
229
230         default:
231                 goto out;
232         }
233
234         if ((err = verify_aead(attrs)))
235                 goto out;
236         if ((err = verify_auth_trunc(attrs)))
237                 goto out;
238         if ((err = verify_one_alg(attrs, XFRMA_ALG_AUTH)))
239                 goto out;
240         if ((err = verify_one_alg(attrs, XFRMA_ALG_CRYPT)))
241                 goto out;
242         if ((err = verify_one_alg(attrs, XFRMA_ALG_COMP)))
243                 goto out;
244         if ((err = verify_sec_ctx_len(attrs)))
245                 goto out;
246         if ((err = verify_replay(p, attrs)))
247                 goto out;
248
249         err = -EINVAL;
250         switch (p->mode) {
251         case XFRM_MODE_TRANSPORT:
252         case XFRM_MODE_TUNNEL:
253         case XFRM_MODE_ROUTEOPTIMIZATION:
254         case XFRM_MODE_BEET:
255                 break;
256
257         default:
258                 goto out;
259         }
260
261         err = 0;
262
263 out:
264         return err;
265 }
266
267 static int attach_one_algo(struct xfrm_algo **algpp, u8 *props,
268                            struct xfrm_algo_desc *(*get_byname)(const char *, int),
269                            struct nlattr *rta)
270 {
271         struct xfrm_algo *p, *ualg;
272         struct xfrm_algo_desc *algo;
273
274         if (!rta)
275                 return 0;
276
277         ualg = nla_data(rta);
278
279         algo = get_byname(ualg->alg_name, 1);
280         if (!algo)
281                 return -ENOSYS;
282         *props = algo->desc.sadb_alg_id;
283
284         p = kmemdup(ualg, xfrm_alg_len(ualg), GFP_KERNEL);
285         if (!p)
286                 return -ENOMEM;
287
288         strcpy(p->alg_name, algo->name);
289         *algpp = p;
290         return 0;
291 }
292
293 static int attach_auth(struct xfrm_algo_auth **algpp, u8 *props,
294                        struct nlattr *rta)
295 {
296         struct xfrm_algo *ualg;
297         struct xfrm_algo_auth *p;
298         struct xfrm_algo_desc *algo;
299
300         if (!rta)
301                 return 0;
302
303         ualg = nla_data(rta);
304
305         algo = xfrm_aalg_get_byname(ualg->alg_name, 1);
306         if (!algo)
307                 return -ENOSYS;
308         *props = algo->desc.sadb_alg_id;
309
310         p = kmalloc(sizeof(*p) + (ualg->alg_key_len + 7) / 8, GFP_KERNEL);
311         if (!p)
312                 return -ENOMEM;
313
314         strcpy(p->alg_name, algo->name);
315         p->alg_key_len = ualg->alg_key_len;
316         p->alg_trunc_len = algo->uinfo.auth.icv_truncbits;
317         memcpy(p->alg_key, ualg->alg_key, (ualg->alg_key_len + 7) / 8);
318
319         *algpp = p;
320         return 0;
321 }
322
323 static int attach_auth_trunc(struct xfrm_algo_auth **algpp, u8 *props,
324                              struct nlattr *rta)
325 {
326         struct xfrm_algo_auth *p, *ualg;
327         struct xfrm_algo_desc *algo;
328
329         if (!rta)
330                 return 0;
331
332         ualg = nla_data(rta);
333
334         algo = xfrm_aalg_get_byname(ualg->alg_name, 1);
335         if (!algo)
336                 return -ENOSYS;
337         if ((ualg->alg_trunc_len / 8) > MAX_AH_AUTH_LEN ||
338             ualg->alg_trunc_len > algo->uinfo.auth.icv_fullbits)
339                 return -EINVAL;
340         *props = algo->desc.sadb_alg_id;
341
342         p = kmemdup(ualg, xfrm_alg_auth_len(ualg), GFP_KERNEL);
343         if (!p)
344                 return -ENOMEM;
345
346         strcpy(p->alg_name, algo->name);
347         if (!p->alg_trunc_len)
348                 p->alg_trunc_len = algo->uinfo.auth.icv_truncbits;
349
350         *algpp = p;
351         return 0;
352 }
353
354 static int attach_aead(struct xfrm_algo_aead **algpp, u8 *props,
355                        struct nlattr *rta)
356 {
357         struct xfrm_algo_aead *p, *ualg;
358         struct xfrm_algo_desc *algo;
359
360         if (!rta)
361                 return 0;
362
363         ualg = nla_data(rta);
364
365         algo = xfrm_aead_get_byname(ualg->alg_name, ualg->alg_icv_len, 1);
366         if (!algo)
367                 return -ENOSYS;
368         *props = algo->desc.sadb_alg_id;
369
370         p = kmemdup(ualg, aead_len(ualg), GFP_KERNEL);
371         if (!p)
372                 return -ENOMEM;
373
374         strcpy(p->alg_name, algo->name);
375         *algpp = p;
376         return 0;
377 }
378
379 static inline int xfrm_replay_verify_len(struct xfrm_replay_state_esn *replay_esn,
380                                          struct nlattr *rp)
381 {
382         struct xfrm_replay_state_esn *up;
383         int ulen;
384
385         if (!replay_esn || !rp)
386                 return 0;
387
388         up = nla_data(rp);
389         ulen = xfrm_replay_state_esn_len(up);
390
391         if (nla_len(rp) < ulen || xfrm_replay_state_esn_len(replay_esn) != ulen)
392                 return -EINVAL;
393
394         return 0;
395 }
396
397 static int xfrm_alloc_replay_state_esn(struct xfrm_replay_state_esn **replay_esn,
398                                        struct xfrm_replay_state_esn **preplay_esn,
399                                        struct nlattr *rta)
400 {
401         struct xfrm_replay_state_esn *p, *pp, *up;
402         int klen, ulen;
403
404         if (!rta)
405                 return 0;
406
407         up = nla_data(rta);
408         klen = xfrm_replay_state_esn_len(up);
409         ulen = nla_len(rta) >= klen ? klen : sizeof(*up);
410
411         p = kzalloc(klen, GFP_KERNEL);
412         if (!p)
413                 return -ENOMEM;
414
415         pp = kzalloc(klen, GFP_KERNEL);
416         if (!pp) {
417                 kfree(p);
418                 return -ENOMEM;
419         }
420
421         memcpy(p, up, ulen);
422         memcpy(pp, up, ulen);
423
424         *replay_esn = p;
425         *preplay_esn = pp;
426
427         return 0;
428 }
429
430 static inline int xfrm_user_sec_ctx_size(struct xfrm_sec_ctx *xfrm_ctx)
431 {
432         int len = 0;
433
434         if (xfrm_ctx) {
435                 len += sizeof(struct xfrm_user_sec_ctx);
436                 len += xfrm_ctx->ctx_len;
437         }
438         return len;
439 }
440
441 static void copy_from_user_state(struct xfrm_state *x, struct xfrm_usersa_info *p)
442 {
443         memcpy(&x->id, &p->id, sizeof(x->id));
444         memcpy(&x->sel, &p->sel, sizeof(x->sel));
445         memcpy(&x->lft, &p->lft, sizeof(x->lft));
446         x->props.mode = p->mode;
447         x->props.replay_window = min_t(unsigned int, p->replay_window,
448                                         sizeof(x->replay.bitmap) * 8);
449         x->props.reqid = p->reqid;
450         x->props.family = p->family;
451         memcpy(&x->props.saddr, &p->saddr, sizeof(x->props.saddr));
452         x->props.flags = p->flags;
453
454         if (!x->sel.family && !(p->flags & XFRM_STATE_AF_UNSPEC))
455                 x->sel.family = p->family;
456 }
457
458 /*
459  * someday when pfkey also has support, we could have the code
460  * somehow made shareable and move it to xfrm_state.c - JHS
461  *
462 */
463 static void xfrm_update_ae_params(struct xfrm_state *x, struct nlattr **attrs,
464                                   int update_esn)
465 {
466         struct nlattr *rp = attrs[XFRMA_REPLAY_VAL];
467         struct nlattr *re = update_esn ? attrs[XFRMA_REPLAY_ESN_VAL] : NULL;
468         struct nlattr *lt = attrs[XFRMA_LTIME_VAL];
469         struct nlattr *et = attrs[XFRMA_ETIMER_THRESH];
470         struct nlattr *rt = attrs[XFRMA_REPLAY_THRESH];
471
472         if (re) {
473                 struct xfrm_replay_state_esn *replay_esn;
474                 replay_esn = nla_data(re);
475                 memcpy(x->replay_esn, replay_esn,
476                        xfrm_replay_state_esn_len(replay_esn));
477                 memcpy(x->preplay_esn, replay_esn,
478                        xfrm_replay_state_esn_len(replay_esn));
479         }
480
481         if (rp) {
482                 struct xfrm_replay_state *replay;
483                 replay = nla_data(rp);
484                 memcpy(&x->replay, replay, sizeof(*replay));
485                 memcpy(&x->preplay, replay, sizeof(*replay));
486         }
487
488         if (lt) {
489                 struct xfrm_lifetime_cur *ltime;
490                 ltime = nla_data(lt);
491                 x->curlft.bytes = ltime->bytes;
492                 x->curlft.packets = ltime->packets;
493                 x->curlft.add_time = ltime->add_time;
494                 x->curlft.use_time = ltime->use_time;
495         }
496
497         if (et)
498                 x->replay_maxage = nla_get_u32(et);
499
500         if (rt)
501                 x->replay_maxdiff = nla_get_u32(rt);
502 }
503
504 static struct xfrm_state *xfrm_state_construct(struct net *net,
505                                                struct xfrm_usersa_info *p,
506                                                struct nlattr **attrs,
507                                                int *errp)
508 {
509         struct xfrm_state *x = xfrm_state_alloc(net);
510         int err = -ENOMEM;
511
512         if (!x)
513                 goto error_no_put;
514
515         copy_from_user_state(x, p);
516
517         if (attrs[XFRMA_SA_EXTRA_FLAGS])
518                 x->props.extra_flags = nla_get_u32(attrs[XFRMA_SA_EXTRA_FLAGS]);
519
520         if ((err = attach_aead(&x->aead, &x->props.ealgo,
521                                attrs[XFRMA_ALG_AEAD])))
522                 goto error;
523         if ((err = attach_auth_trunc(&x->aalg, &x->props.aalgo,
524                                      attrs[XFRMA_ALG_AUTH_TRUNC])))
525                 goto error;
526         if (!x->props.aalgo) {
527                 if ((err = attach_auth(&x->aalg, &x->props.aalgo,
528                                        attrs[XFRMA_ALG_AUTH])))
529                         goto error;
530         }
531         if ((err = attach_one_algo(&x->ealg, &x->props.ealgo,
532                                    xfrm_ealg_get_byname,
533                                    attrs[XFRMA_ALG_CRYPT])))
534                 goto error;
535         if ((err = attach_one_algo(&x->calg, &x->props.calgo,
536                                    xfrm_calg_get_byname,
537                                    attrs[XFRMA_ALG_COMP])))
538                 goto error;
539
540         if (attrs[XFRMA_ENCAP]) {
541                 x->encap = kmemdup(nla_data(attrs[XFRMA_ENCAP]),
542                                    sizeof(*x->encap), GFP_KERNEL);
543                 if (x->encap == NULL)
544                         goto error;
545         }
546
547         if (attrs[XFRMA_TFCPAD])
548                 x->tfcpad = nla_get_u32(attrs[XFRMA_TFCPAD]);
549
550         if (attrs[XFRMA_COADDR]) {
551                 x->coaddr = kmemdup(nla_data(attrs[XFRMA_COADDR]),
552                                     sizeof(*x->coaddr), GFP_KERNEL);
553                 if (x->coaddr == NULL)
554                         goto error;
555         }
556
557         xfrm_mark_get(attrs, &x->mark);
558
559         err = __xfrm_init_state(x, false);
560         if (err)
561                 goto error;
562
563         if (attrs[XFRMA_SEC_CTX] &&
564             security_xfrm_state_alloc(x, nla_data(attrs[XFRMA_SEC_CTX])))
565                 goto error;
566
567         if ((err = xfrm_alloc_replay_state_esn(&x->replay_esn, &x->preplay_esn,
568                                                attrs[XFRMA_REPLAY_ESN_VAL])))
569                 goto error;
570
571         x->km.seq = p->seq;
572         x->replay_maxdiff = net->xfrm.sysctl_aevent_rseqth;
573         /* sysctl_xfrm_aevent_etime is in 100ms units */
574         x->replay_maxage = (net->xfrm.sysctl_aevent_etime*HZ)/XFRM_AE_ETH_M;
575
576         if ((err = xfrm_init_replay(x)))
577                 goto error;
578
579         /* override default values from above */
580         xfrm_update_ae_params(x, attrs, 0);
581
582         return x;
583
584 error:
585         x->km.state = XFRM_STATE_DEAD;
586         xfrm_state_put(x);
587 error_no_put:
588         *errp = err;
589         return NULL;
590 }
591
592 static int xfrm_add_sa(struct sk_buff *skb, struct nlmsghdr *nlh,
593                 struct nlattr **attrs)
594 {
595         struct net *net = sock_net(skb->sk);
596         struct xfrm_usersa_info *p = nlmsg_data(nlh);
597         struct xfrm_state *x;
598         int err;
599         struct km_event c;
600
601         err = verify_newsa_info(p, attrs);
602         if (err)
603                 return err;
604
605         x = xfrm_state_construct(net, p, attrs, &err);
606         if (!x)
607                 return err;
608
609         xfrm_state_hold(x);
610         if (nlh->nlmsg_type == XFRM_MSG_NEWSA)
611                 err = xfrm_state_add(x);
612         else
613                 err = xfrm_state_update(x);
614
615         xfrm_audit_state_add(x, err ? 0 : 1, true);
616
617         if (err < 0) {
618                 x->km.state = XFRM_STATE_DEAD;
619                 __xfrm_state_put(x);
620                 goto out;
621         }
622
623         c.seq = nlh->nlmsg_seq;
624         c.portid = nlh->nlmsg_pid;
625         c.event = nlh->nlmsg_type;
626
627         km_state_notify(x, &c);
628 out:
629         xfrm_state_put(x);
630         return err;
631 }
632
633 static struct xfrm_state *xfrm_user_state_lookup(struct net *net,
634                                                  struct xfrm_usersa_id *p,
635                                                  struct nlattr **attrs,
636                                                  int *errp)
637 {
638         struct xfrm_state *x = NULL;
639         struct xfrm_mark m;
640         int err;
641         u32 mark = xfrm_mark_get(attrs, &m);
642
643         if (xfrm_id_proto_match(p->proto, IPSEC_PROTO_ANY)) {
644                 err = -ESRCH;
645                 x = xfrm_state_lookup(net, mark, &p->daddr, p->spi, p->proto, p->family);
646         } else {
647                 xfrm_address_t *saddr = NULL;
648
649                 verify_one_addr(attrs, XFRMA_SRCADDR, &saddr);
650                 if (!saddr) {
651                         err = -EINVAL;
652                         goto out;
653                 }
654
655                 err = -ESRCH;
656                 x = xfrm_state_lookup_byaddr(net, mark,
657                                              &p->daddr, saddr,
658                                              p->proto, p->family);
659         }
660
661  out:
662         if (!x && errp)
663                 *errp = err;
664         return x;
665 }
666
667 static int xfrm_del_sa(struct sk_buff *skb, struct nlmsghdr *nlh,
668                 struct nlattr **attrs)
669 {
670         struct net *net = sock_net(skb->sk);
671         struct xfrm_state *x;
672         int err = -ESRCH;
673         struct km_event c;
674         struct xfrm_usersa_id *p = nlmsg_data(nlh);
675
676         x = xfrm_user_state_lookup(net, p, attrs, &err);
677         if (x == NULL)
678                 return err;
679
680         if ((err = security_xfrm_state_delete(x)) != 0)
681                 goto out;
682
683         if (xfrm_state_kern(x)) {
684                 err = -EPERM;
685                 goto out;
686         }
687
688         err = xfrm_state_delete(x);
689
690         if (err < 0)
691                 goto out;
692
693         c.seq = nlh->nlmsg_seq;
694         c.portid = nlh->nlmsg_pid;
695         c.event = nlh->nlmsg_type;
696         km_state_notify(x, &c);
697
698 out:
699         xfrm_audit_state_delete(x, err ? 0 : 1, true);
700         xfrm_state_put(x);
701         return err;
702 }
703
704 static void copy_to_user_state(struct xfrm_state *x, struct xfrm_usersa_info *p)
705 {
706         memset(p, 0, sizeof(*p));
707         memcpy(&p->id, &x->id, sizeof(p->id));
708         memcpy(&p->sel, &x->sel, sizeof(p->sel));
709         memcpy(&p->lft, &x->lft, sizeof(p->lft));
710         memcpy(&p->curlft, &x->curlft, sizeof(p->curlft));
711         memcpy(&p->stats, &x->stats, sizeof(p->stats));
712         memcpy(&p->saddr, &x->props.saddr, sizeof(p->saddr));
713         p->mode = x->props.mode;
714         p->replay_window = x->props.replay_window;
715         p->reqid = x->props.reqid;
716         p->family = x->props.family;
717         p->flags = x->props.flags;
718         p->seq = x->km.seq;
719 }
720
721 struct xfrm_dump_info {
722         struct sk_buff *in_skb;
723         struct sk_buff *out_skb;
724         u32 nlmsg_seq;
725         u16 nlmsg_flags;
726 };
727
728 static int copy_sec_ctx(struct xfrm_sec_ctx *s, struct sk_buff *skb)
729 {
730         struct xfrm_user_sec_ctx *uctx;
731         struct nlattr *attr;
732         int ctx_size = sizeof(*uctx) + s->ctx_len;
733
734         attr = nla_reserve(skb, XFRMA_SEC_CTX, ctx_size);
735         if (attr == NULL)
736                 return -EMSGSIZE;
737
738         uctx = nla_data(attr);
739         uctx->exttype = XFRMA_SEC_CTX;
740         uctx->len = ctx_size;
741         uctx->ctx_doi = s->ctx_doi;
742         uctx->ctx_alg = s->ctx_alg;
743         uctx->ctx_len = s->ctx_len;
744         memcpy(uctx + 1, s->ctx_str, s->ctx_len);
745
746         return 0;
747 }
748
749 static int copy_to_user_auth(struct xfrm_algo_auth *auth, struct sk_buff *skb)
750 {
751         struct xfrm_algo *algo;
752         struct nlattr *nla;
753
754         nla = nla_reserve(skb, XFRMA_ALG_AUTH,
755                           sizeof(*algo) + (auth->alg_key_len + 7) / 8);
756         if (!nla)
757                 return -EMSGSIZE;
758
759         algo = nla_data(nla);
760         strncpy(algo->alg_name, auth->alg_name, sizeof(algo->alg_name));
761         memcpy(algo->alg_key, auth->alg_key, (auth->alg_key_len + 7) / 8);
762         algo->alg_key_len = auth->alg_key_len;
763
764         return 0;
765 }
766
767 /* Don't change this without updating xfrm_sa_len! */
768 static int copy_to_user_state_extra(struct xfrm_state *x,
769                                     struct xfrm_usersa_info *p,
770                                     struct sk_buff *skb)
771 {
772         int ret = 0;
773
774         copy_to_user_state(x, p);
775
776         if (x->props.extra_flags) {
777                 ret = nla_put_u32(skb, XFRMA_SA_EXTRA_FLAGS,
778                                   x->props.extra_flags);
779                 if (ret)
780                         goto out;
781         }
782
783         if (x->coaddr) {
784                 ret = nla_put(skb, XFRMA_COADDR, sizeof(*x->coaddr), x->coaddr);
785                 if (ret)
786                         goto out;
787         }
788         if (x->lastused) {
789                 ret = nla_put_u64(skb, XFRMA_LASTUSED, x->lastused);
790                 if (ret)
791                         goto out;
792         }
793         if (x->aead) {
794                 ret = nla_put(skb, XFRMA_ALG_AEAD, aead_len(x->aead), x->aead);
795                 if (ret)
796                         goto out;
797         }
798         if (x->aalg) {
799                 ret = copy_to_user_auth(x->aalg, skb);
800                 if (!ret)
801                         ret = nla_put(skb, XFRMA_ALG_AUTH_TRUNC,
802                                       xfrm_alg_auth_len(x->aalg), x->aalg);
803                 if (ret)
804                         goto out;
805         }
806         if (x->ealg) {
807                 ret = nla_put(skb, XFRMA_ALG_CRYPT, xfrm_alg_len(x->ealg), x->ealg);
808                 if (ret)
809                         goto out;
810         }
811         if (x->calg) {
812                 ret = nla_put(skb, XFRMA_ALG_COMP, sizeof(*(x->calg)), x->calg);
813                 if (ret)
814                         goto out;
815         }
816         if (x->encap) {
817                 ret = nla_put(skb, XFRMA_ENCAP, sizeof(*x->encap), x->encap);
818                 if (ret)
819                         goto out;
820         }
821         if (x->tfcpad) {
822                 ret = nla_put_u32(skb, XFRMA_TFCPAD, x->tfcpad);
823                 if (ret)
824                         goto out;
825         }
826         ret = xfrm_mark_put(skb, &x->mark);
827         if (ret)
828                 goto out;
829         if (x->replay_esn) {
830                 ret = nla_put(skb, XFRMA_REPLAY_ESN_VAL,
831                               xfrm_replay_state_esn_len(x->replay_esn),
832                               x->replay_esn);
833                 if (ret)
834                         goto out;
835         }
836         if (x->security)
837                 ret = copy_sec_ctx(x->security, skb);
838 out:
839         return ret;
840 }
841
842 static int dump_one_state(struct xfrm_state *x, int count, void *ptr)
843 {
844         struct xfrm_dump_info *sp = ptr;
845         struct sk_buff *in_skb = sp->in_skb;
846         struct sk_buff *skb = sp->out_skb;
847         struct xfrm_usersa_info *p;
848         struct nlmsghdr *nlh;
849         int err;
850
851         nlh = nlmsg_put(skb, NETLINK_CB(in_skb).portid, sp->nlmsg_seq,
852                         XFRM_MSG_NEWSA, sizeof(*p), sp->nlmsg_flags);
853         if (nlh == NULL)
854                 return -EMSGSIZE;
855
856         p = nlmsg_data(nlh);
857
858         err = copy_to_user_state_extra(x, p, skb);
859         if (err) {
860                 nlmsg_cancel(skb, nlh);
861                 return err;
862         }
863         nlmsg_end(skb, nlh);
864         return 0;
865 }
866
867 static int xfrm_dump_sa_done(struct netlink_callback *cb)
868 {
869         struct xfrm_state_walk *walk = (struct xfrm_state_walk *) &cb->args[1];
870         struct sock *sk = cb->skb->sk;
871         struct net *net = sock_net(sk);
872
873         xfrm_state_walk_done(walk, net);
874         return 0;
875 }
876
877 static const struct nla_policy xfrma_policy[XFRMA_MAX+1];
878 static int xfrm_dump_sa(struct sk_buff *skb, struct netlink_callback *cb)
879 {
880         struct net *net = sock_net(skb->sk);
881         struct xfrm_state_walk *walk = (struct xfrm_state_walk *) &cb->args[1];
882         struct xfrm_dump_info info;
883
884         BUILD_BUG_ON(sizeof(struct xfrm_state_walk) >
885                      sizeof(cb->args) - sizeof(cb->args[0]));
886
887         info.in_skb = cb->skb;
888         info.out_skb = skb;
889         info.nlmsg_seq = cb->nlh->nlmsg_seq;
890         info.nlmsg_flags = NLM_F_MULTI;
891
892         if (!cb->args[0]) {
893                 struct nlattr *attrs[XFRMA_MAX+1];
894                 struct xfrm_address_filter *filter = NULL;
895                 u8 proto = 0;
896                 int err;
897
898                 cb->args[0] = 1;
899
900                 err = nlmsg_parse(cb->nlh, 0, attrs, XFRMA_MAX,
901                                   xfrma_policy);
902                 if (err < 0)
903                         return err;
904
905                 if (attrs[XFRMA_ADDRESS_FILTER]) {
906                         filter = kmalloc(sizeof(*filter), GFP_KERNEL);
907                         if (filter == NULL)
908                                 return -ENOMEM;
909
910                         memcpy(filter, nla_data(attrs[XFRMA_ADDRESS_FILTER]),
911                                sizeof(*filter));
912                 }
913
914                 if (attrs[XFRMA_PROTO])
915                         proto = nla_get_u8(attrs[XFRMA_PROTO]);
916
917                 xfrm_state_walk_init(walk, proto, filter);
918         }
919
920         (void) xfrm_state_walk(net, walk, dump_one_state, &info);
921
922         return skb->len;
923 }
924
925 static struct sk_buff *xfrm_state_netlink(struct sk_buff *in_skb,
926                                           struct xfrm_state *x, u32 seq)
927 {
928         struct xfrm_dump_info info;
929         struct sk_buff *skb;
930         int err;
931
932         skb = nlmsg_new(NLMSG_DEFAULT_SIZE, GFP_ATOMIC);
933         if (!skb)
934                 return ERR_PTR(-ENOMEM);
935
936         info.in_skb = in_skb;
937         info.out_skb = skb;
938         info.nlmsg_seq = seq;
939         info.nlmsg_flags = 0;
940
941         err = dump_one_state(x, 0, &info);
942         if (err) {
943                 kfree_skb(skb);
944                 return ERR_PTR(err);
945         }
946
947         return skb;
948 }
949
950 /* A wrapper for nlmsg_multicast() checking that nlsk is still available.
951  * Must be called with RCU read lock.
952  */
953 static inline int xfrm_nlmsg_multicast(struct net *net, struct sk_buff *skb,
954                                        u32 pid, unsigned int group)
955 {
956         struct sock *nlsk = rcu_dereference(net->xfrm.nlsk);
957
958         if (nlsk)
959                 return nlmsg_multicast(nlsk, skb, pid, group, GFP_ATOMIC);
960         else
961                 return -1;
962 }
963
964 static inline size_t xfrm_spdinfo_msgsize(void)
965 {
966         return NLMSG_ALIGN(4)
967                + nla_total_size(sizeof(struct xfrmu_spdinfo))
968                + nla_total_size(sizeof(struct xfrmu_spdhinfo));
969 }
970
971 static int build_spdinfo(struct sk_buff *skb, struct net *net,
972                          u32 portid, u32 seq, u32 flags)
973 {
974         struct xfrmk_spdinfo si;
975         struct xfrmu_spdinfo spc;
976         struct xfrmu_spdhinfo sph;
977         struct nlmsghdr *nlh;
978         int err;
979         u32 *f;
980
981         nlh = nlmsg_put(skb, portid, seq, XFRM_MSG_NEWSPDINFO, sizeof(u32), 0);
982         if (nlh == NULL) /* shouldn't really happen ... */
983                 return -EMSGSIZE;
984
985         f = nlmsg_data(nlh);
986         *f = flags;
987         xfrm_spd_getinfo(net, &si);
988         spc.incnt = si.incnt;
989         spc.outcnt = si.outcnt;
990         spc.fwdcnt = si.fwdcnt;
991         spc.inscnt = si.inscnt;
992         spc.outscnt = si.outscnt;
993         spc.fwdscnt = si.fwdscnt;
994         sph.spdhcnt = si.spdhcnt;
995         sph.spdhmcnt = si.spdhmcnt;
996
997         err = nla_put(skb, XFRMA_SPD_INFO, sizeof(spc), &spc);
998         if (!err)
999                 err = nla_put(skb, XFRMA_SPD_HINFO, sizeof(sph), &sph);
1000         if (err) {
1001                 nlmsg_cancel(skb, nlh);
1002                 return err;
1003         }
1004
1005         return nlmsg_end(skb, nlh);
1006 }
1007
1008 static int xfrm_get_spdinfo(struct sk_buff *skb, struct nlmsghdr *nlh,
1009                 struct nlattr **attrs)
1010 {
1011         struct net *net = sock_net(skb->sk);
1012         struct sk_buff *r_skb;
1013         u32 *flags = nlmsg_data(nlh);
1014         u32 sportid = NETLINK_CB(skb).portid;
1015         u32 seq = nlh->nlmsg_seq;
1016
1017         r_skb = nlmsg_new(xfrm_spdinfo_msgsize(), GFP_ATOMIC);
1018         if (r_skb == NULL)
1019                 return -ENOMEM;
1020
1021         if (build_spdinfo(r_skb, net, sportid, seq, *flags) < 0)
1022                 BUG();
1023
1024         return nlmsg_unicast(net->xfrm.nlsk, r_skb, sportid);
1025 }
1026
1027 static inline size_t xfrm_sadinfo_msgsize(void)
1028 {
1029         return NLMSG_ALIGN(4)
1030                + nla_total_size(sizeof(struct xfrmu_sadhinfo))
1031                + nla_total_size(4); /* XFRMA_SAD_CNT */
1032 }
1033
1034 static int build_sadinfo(struct sk_buff *skb, struct net *net,
1035                          u32 portid, u32 seq, u32 flags)
1036 {
1037         struct xfrmk_sadinfo si;
1038         struct xfrmu_sadhinfo sh;
1039         struct nlmsghdr *nlh;
1040         int err;
1041         u32 *f;
1042
1043         nlh = nlmsg_put(skb, portid, seq, XFRM_MSG_NEWSADINFO, sizeof(u32), 0);
1044         if (nlh == NULL) /* shouldn't really happen ... */
1045                 return -EMSGSIZE;
1046
1047         f = nlmsg_data(nlh);
1048         *f = flags;
1049         xfrm_sad_getinfo(net, &si);
1050
1051         sh.sadhmcnt = si.sadhmcnt;
1052         sh.sadhcnt = si.sadhcnt;
1053
1054         err = nla_put_u32(skb, XFRMA_SAD_CNT, si.sadcnt);
1055         if (!err)
1056                 err = nla_put(skb, XFRMA_SAD_HINFO, sizeof(sh), &sh);
1057         if (err) {
1058                 nlmsg_cancel(skb, nlh);
1059                 return err;
1060         }
1061
1062         return nlmsg_end(skb, nlh);
1063 }
1064
1065 static int xfrm_get_sadinfo(struct sk_buff *skb, struct nlmsghdr *nlh,
1066                 struct nlattr **attrs)
1067 {
1068         struct net *net = sock_net(skb->sk);
1069         struct sk_buff *r_skb;
1070         u32 *flags = nlmsg_data(nlh);
1071         u32 sportid = NETLINK_CB(skb).portid;
1072         u32 seq = nlh->nlmsg_seq;
1073
1074         r_skb = nlmsg_new(xfrm_sadinfo_msgsize(), GFP_ATOMIC);
1075         if (r_skb == NULL)
1076                 return -ENOMEM;
1077
1078         if (build_sadinfo(r_skb, net, sportid, seq, *flags) < 0)
1079                 BUG();
1080
1081         return nlmsg_unicast(net->xfrm.nlsk, r_skb, sportid);
1082 }
1083
1084 static int xfrm_get_sa(struct sk_buff *skb, struct nlmsghdr *nlh,
1085                 struct nlattr **attrs)
1086 {
1087         struct net *net = sock_net(skb->sk);
1088         struct xfrm_usersa_id *p = nlmsg_data(nlh);
1089         struct xfrm_state *x;
1090         struct sk_buff *resp_skb;
1091         int err = -ESRCH;
1092
1093         x = xfrm_user_state_lookup(net, p, attrs, &err);
1094         if (x == NULL)
1095                 goto out_noput;
1096
1097         resp_skb = xfrm_state_netlink(skb, x, nlh->nlmsg_seq);
1098         if (IS_ERR(resp_skb)) {
1099                 err = PTR_ERR(resp_skb);
1100         } else {
1101                 err = nlmsg_unicast(net->xfrm.nlsk, resp_skb, NETLINK_CB(skb).portid);
1102         }
1103         xfrm_state_put(x);
1104 out_noput:
1105         return err;
1106 }
1107
1108 static int xfrm_alloc_userspi(struct sk_buff *skb, struct nlmsghdr *nlh,
1109                 struct nlattr **attrs)
1110 {
1111         struct net *net = sock_net(skb->sk);
1112         struct xfrm_state *x;
1113         struct xfrm_userspi_info *p;
1114         struct sk_buff *resp_skb;
1115         xfrm_address_t *daddr;
1116         int family;
1117         int err;
1118         u32 mark;
1119         struct xfrm_mark m;
1120
1121         p = nlmsg_data(nlh);
1122         err = verify_spi_info(p->info.id.proto, p->min, p->max);
1123         if (err)
1124                 goto out_noput;
1125
1126         family = p->info.family;
1127         daddr = &p->info.id.daddr;
1128
1129         x = NULL;
1130
1131         mark = xfrm_mark_get(attrs, &m);
1132         if (p->info.seq) {
1133                 x = xfrm_find_acq_byseq(net, mark, p->info.seq);
1134                 if (x && !xfrm_addr_equal(&x->id.daddr, daddr, family)) {
1135                         xfrm_state_put(x);
1136                         x = NULL;
1137                 }
1138         }
1139
1140         if (!x)
1141                 x = xfrm_find_acq(net, &m, p->info.mode, p->info.reqid,
1142                                   p->info.id.proto, daddr,
1143                                   &p->info.saddr, 1,
1144                                   family);
1145         err = -ENOENT;
1146         if (x == NULL)
1147                 goto out_noput;
1148
1149         err = xfrm_alloc_spi(x, p->min, p->max);
1150         if (err)
1151                 goto out;
1152
1153         resp_skb = xfrm_state_netlink(skb, x, nlh->nlmsg_seq);
1154         if (IS_ERR(resp_skb)) {
1155                 err = PTR_ERR(resp_skb);
1156                 goto out;
1157         }
1158
1159         err = nlmsg_unicast(net->xfrm.nlsk, resp_skb, NETLINK_CB(skb).portid);
1160
1161 out:
1162         xfrm_state_put(x);
1163 out_noput:
1164         return err;
1165 }
1166
1167 static int verify_policy_dir(u8 dir)
1168 {
1169         switch (dir) {
1170         case XFRM_POLICY_IN:
1171         case XFRM_POLICY_OUT:
1172         case XFRM_POLICY_FWD:
1173                 break;
1174
1175         default:
1176                 return -EINVAL;
1177         }
1178
1179         return 0;
1180 }
1181
1182 static int verify_policy_type(u8 type)
1183 {
1184         switch (type) {
1185         case XFRM_POLICY_TYPE_MAIN:
1186 #ifdef CONFIG_XFRM_SUB_POLICY
1187         case XFRM_POLICY_TYPE_SUB:
1188 #endif
1189                 break;
1190
1191         default:
1192                 return -EINVAL;
1193         }
1194
1195         return 0;
1196 }
1197
1198 static int verify_newpolicy_info(struct xfrm_userpolicy_info *p)
1199 {
1200         int ret;
1201
1202         switch (p->share) {
1203         case XFRM_SHARE_ANY:
1204         case XFRM_SHARE_SESSION:
1205         case XFRM_SHARE_USER:
1206         case XFRM_SHARE_UNIQUE:
1207                 break;
1208
1209         default:
1210                 return -EINVAL;
1211         }
1212
1213         switch (p->action) {
1214         case XFRM_POLICY_ALLOW:
1215         case XFRM_POLICY_BLOCK:
1216                 break;
1217
1218         default:
1219                 return -EINVAL;
1220         }
1221
1222         switch (p->sel.family) {
1223         case AF_INET:
1224                 break;
1225
1226         case AF_INET6:
1227 #if IS_ENABLED(CONFIG_IPV6)
1228                 break;
1229 #else
1230                 return  -EAFNOSUPPORT;
1231 #endif
1232
1233         default:
1234                 return -EINVAL;
1235         }
1236
1237         ret = verify_policy_dir(p->dir);
1238         if (ret)
1239                 return ret;
1240         if (p->index && ((p->index & XFRM_POLICY_MAX) != p->dir))
1241                 return -EINVAL;
1242
1243         return 0;
1244 }
1245
1246 static int copy_from_user_sec_ctx(struct xfrm_policy *pol, struct nlattr **attrs)
1247 {
1248         struct nlattr *rt = attrs[XFRMA_SEC_CTX];
1249         struct xfrm_user_sec_ctx *uctx;
1250
1251         if (!rt)
1252                 return 0;
1253
1254         uctx = nla_data(rt);
1255         return security_xfrm_policy_alloc(&pol->security, uctx, GFP_KERNEL);
1256 }
1257
1258 static void copy_templates(struct xfrm_policy *xp, struct xfrm_user_tmpl *ut,
1259                            int nr)
1260 {
1261         int i;
1262
1263         xp->xfrm_nr = nr;
1264         for (i = 0; i < nr; i++, ut++) {
1265                 struct xfrm_tmpl *t = &xp->xfrm_vec[i];
1266
1267                 memcpy(&t->id, &ut->id, sizeof(struct xfrm_id));
1268                 memcpy(&t->saddr, &ut->saddr,
1269                        sizeof(xfrm_address_t));
1270                 t->reqid = ut->reqid;
1271                 t->mode = ut->mode;
1272                 t->share = ut->share;
1273                 t->optional = ut->optional;
1274                 t->aalgos = ut->aalgos;
1275                 t->ealgos = ut->ealgos;
1276                 t->calgos = ut->calgos;
1277                 /* If all masks are ~0, then we allow all algorithms. */
1278                 t->allalgs = !~(t->aalgos & t->ealgos & t->calgos);
1279                 t->encap_family = ut->family;
1280         }
1281 }
1282
1283 static int validate_tmpl(int nr, struct xfrm_user_tmpl *ut, u16 family)
1284 {
1285         int i;
1286
1287         if (nr > XFRM_MAX_DEPTH)
1288                 return -EINVAL;
1289
1290         for (i = 0; i < nr; i++) {
1291                 /* We never validated the ut->family value, so many
1292                  * applications simply leave it at zero.  The check was
1293                  * never made and ut->family was ignored because all
1294                  * templates could be assumed to have the same family as
1295                  * the policy itself.  Now that we will have ipv4-in-ipv6
1296                  * and ipv6-in-ipv4 tunnels, this is no longer true.
1297                  */
1298                 if (!ut[i].family)
1299                         ut[i].family = family;
1300
1301                 switch (ut[i].family) {
1302                 case AF_INET:
1303                         break;
1304 #if IS_ENABLED(CONFIG_IPV6)
1305                 case AF_INET6:
1306                         break;
1307 #endif
1308                 default:
1309                         return -EINVAL;
1310                 }
1311         }
1312
1313         return 0;
1314 }
1315
1316 static int copy_from_user_tmpl(struct xfrm_policy *pol, struct nlattr **attrs)
1317 {
1318         struct nlattr *rt = attrs[XFRMA_TMPL];
1319
1320         if (!rt) {
1321                 pol->xfrm_nr = 0;
1322         } else {
1323                 struct xfrm_user_tmpl *utmpl = nla_data(rt);
1324                 int nr = nla_len(rt) / sizeof(*utmpl);
1325                 int err;
1326
1327                 err = validate_tmpl(nr, utmpl, pol->family);
1328                 if (err)
1329                         return err;
1330
1331                 copy_templates(pol, utmpl, nr);
1332         }
1333         return 0;
1334 }
1335
1336 static int copy_from_user_policy_type(u8 *tp, struct nlattr **attrs)
1337 {
1338         struct nlattr *rt = attrs[XFRMA_POLICY_TYPE];
1339         struct xfrm_userpolicy_type *upt;
1340         u8 type = XFRM_POLICY_TYPE_MAIN;
1341         int err;
1342
1343         if (rt) {
1344                 upt = nla_data(rt);
1345                 type = upt->type;
1346         }
1347
1348         err = verify_policy_type(type);
1349         if (err)
1350                 return err;
1351
1352         *tp = type;
1353         return 0;
1354 }
1355
1356 static void copy_from_user_policy(struct xfrm_policy *xp, struct xfrm_userpolicy_info *p)
1357 {
1358         xp->priority = p->priority;
1359         xp->index = p->index;
1360         memcpy(&xp->selector, &p->sel, sizeof(xp->selector));
1361         memcpy(&xp->lft, &p->lft, sizeof(xp->lft));
1362         xp->action = p->action;
1363         xp->flags = p->flags;
1364         xp->family = p->sel.family;
1365         /* XXX xp->share = p->share; */
1366 }
1367
1368 static void copy_to_user_policy(struct xfrm_policy *xp, struct xfrm_userpolicy_info *p, int dir)
1369 {
1370         memset(p, 0, sizeof(*p));
1371         memcpy(&p->sel, &xp->selector, sizeof(p->sel));
1372         memcpy(&p->lft, &xp->lft, sizeof(p->lft));
1373         memcpy(&p->curlft, &xp->curlft, sizeof(p->curlft));
1374         p->priority = xp->priority;
1375         p->index = xp->index;
1376         p->sel.family = xp->family;
1377         p->dir = dir;
1378         p->action = xp->action;
1379         p->flags = xp->flags;
1380         p->share = XFRM_SHARE_ANY; /* XXX xp->share */
1381 }
1382
1383 static struct xfrm_policy *xfrm_policy_construct(struct net *net, struct xfrm_userpolicy_info *p, struct nlattr **attrs, int *errp)
1384 {
1385         struct xfrm_policy *xp = xfrm_policy_alloc(net, GFP_KERNEL);
1386         int err;
1387
1388         if (!xp) {
1389                 *errp = -ENOMEM;
1390                 return NULL;
1391         }
1392
1393         copy_from_user_policy(xp, p);
1394
1395         err = copy_from_user_policy_type(&xp->type, attrs);
1396         if (err)
1397                 goto error;
1398
1399         if (!(err = copy_from_user_tmpl(xp, attrs)))
1400                 err = copy_from_user_sec_ctx(xp, attrs);
1401         if (err)
1402                 goto error;
1403
1404         xfrm_mark_get(attrs, &xp->mark);
1405
1406         return xp;
1407  error:
1408         *errp = err;
1409         xp->walk.dead = 1;
1410         xfrm_policy_destroy(xp);
1411         return NULL;
1412 }
1413
1414 static int xfrm_add_policy(struct sk_buff *skb, struct nlmsghdr *nlh,
1415                 struct nlattr **attrs)
1416 {
1417         struct net *net = sock_net(skb->sk);
1418         struct xfrm_userpolicy_info *p = nlmsg_data(nlh);
1419         struct xfrm_policy *xp;
1420         struct km_event c;
1421         int err;
1422         int excl;
1423
1424         err = verify_newpolicy_info(p);
1425         if (err)
1426                 return err;
1427         err = verify_sec_ctx_len(attrs);
1428         if (err)
1429                 return err;
1430
1431         xp = xfrm_policy_construct(net, p, attrs, &err);
1432         if (!xp)
1433                 return err;
1434
1435         /* shouldn't excl be based on nlh flags??
1436          * Aha! this is anti-netlink really i.e  more pfkey derived
1437          * in netlink excl is a flag and you wouldnt need
1438          * a type XFRM_MSG_UPDPOLICY - JHS */
1439         excl = nlh->nlmsg_type == XFRM_MSG_NEWPOLICY;
1440         err = xfrm_policy_insert(p->dir, xp, excl);
1441         xfrm_audit_policy_add(xp, err ? 0 : 1, true);
1442
1443         if (err) {
1444                 security_xfrm_policy_free(xp->security);
1445                 kfree(xp);
1446                 return err;
1447         }
1448
1449         c.event = nlh->nlmsg_type;
1450         c.seq = nlh->nlmsg_seq;
1451         c.portid = nlh->nlmsg_pid;
1452         km_policy_notify(xp, p->dir, &c);
1453
1454         xfrm_pol_put(xp);
1455
1456         return 0;
1457 }
1458
1459 static int copy_to_user_tmpl(struct xfrm_policy *xp, struct sk_buff *skb)
1460 {
1461         struct xfrm_user_tmpl vec[XFRM_MAX_DEPTH];
1462         int i;
1463
1464         if (xp->xfrm_nr == 0)
1465                 return 0;
1466
1467         for (i = 0; i < xp->xfrm_nr; i++) {
1468                 struct xfrm_user_tmpl *up = &vec[i];
1469                 struct xfrm_tmpl *kp = &xp->xfrm_vec[i];
1470
1471                 memset(up, 0, sizeof(*up));
1472                 memcpy(&up->id, &kp->id, sizeof(up->id));
1473                 up->family = kp->encap_family;
1474                 memcpy(&up->saddr, &kp->saddr, sizeof(up->saddr));
1475                 up->reqid = kp->reqid;
1476                 up->mode = kp->mode;
1477                 up->share = kp->share;
1478                 up->optional = kp->optional;
1479                 up->aalgos = kp->aalgos;
1480                 up->ealgos = kp->ealgos;
1481                 up->calgos = kp->calgos;
1482         }
1483
1484         return nla_put(skb, XFRMA_TMPL,
1485                        sizeof(struct xfrm_user_tmpl) * xp->xfrm_nr, vec);
1486 }
1487
1488 static inline int copy_to_user_state_sec_ctx(struct xfrm_state *x, struct sk_buff *skb)
1489 {
1490         if (x->security) {
1491                 return copy_sec_ctx(x->security, skb);
1492         }
1493         return 0;
1494 }
1495
1496 static inline int copy_to_user_sec_ctx(struct xfrm_policy *xp, struct sk_buff *skb)
1497 {
1498         if (xp->security)
1499                 return copy_sec_ctx(xp->security, skb);
1500         return 0;
1501 }
1502 static inline size_t userpolicy_type_attrsize(void)
1503 {
1504 #ifdef CONFIG_XFRM_SUB_POLICY
1505         return nla_total_size(sizeof(struct xfrm_userpolicy_type));
1506 #else
1507         return 0;
1508 #endif
1509 }
1510
1511 #ifdef CONFIG_XFRM_SUB_POLICY
1512 static int copy_to_user_policy_type(u8 type, struct sk_buff *skb)
1513 {
1514         struct xfrm_userpolicy_type upt = {
1515                 .type = type,
1516         };
1517
1518         return nla_put(skb, XFRMA_POLICY_TYPE, sizeof(upt), &upt);
1519 }
1520
1521 #else
1522 static inline int copy_to_user_policy_type(u8 type, struct sk_buff *skb)
1523 {
1524         return 0;
1525 }
1526 #endif
1527
1528 static int dump_one_policy(struct xfrm_policy *xp, int dir, int count, void *ptr)
1529 {
1530         struct xfrm_dump_info *sp = ptr;
1531         struct xfrm_userpolicy_info *p;
1532         struct sk_buff *in_skb = sp->in_skb;
1533         struct sk_buff *skb = sp->out_skb;
1534         struct nlmsghdr *nlh;
1535         int err;
1536
1537         nlh = nlmsg_put(skb, NETLINK_CB(in_skb).portid, sp->nlmsg_seq,
1538                         XFRM_MSG_NEWPOLICY, sizeof(*p), sp->nlmsg_flags);
1539         if (nlh == NULL)
1540                 return -EMSGSIZE;
1541
1542         p = nlmsg_data(nlh);
1543         copy_to_user_policy(xp, p, dir);
1544         err = copy_to_user_tmpl(xp, skb);
1545         if (!err)
1546                 err = copy_to_user_sec_ctx(xp, skb);
1547         if (!err)
1548                 err = copy_to_user_policy_type(xp->type, skb);
1549         if (!err)
1550                 err = xfrm_mark_put(skb, &xp->mark);
1551         if (err) {
1552                 nlmsg_cancel(skb, nlh);
1553                 return err;
1554         }
1555         nlmsg_end(skb, nlh);
1556         return 0;
1557 }
1558
1559 static int xfrm_dump_policy_done(struct netlink_callback *cb)
1560 {
1561         struct xfrm_policy_walk *walk = (struct xfrm_policy_walk *) &cb->args[1];
1562         struct net *net = sock_net(cb->skb->sk);
1563
1564         xfrm_policy_walk_done(walk, net);
1565         return 0;
1566 }
1567
1568 static int xfrm_dump_policy(struct sk_buff *skb, struct netlink_callback *cb)
1569 {
1570         struct net *net = sock_net(skb->sk);
1571         struct xfrm_policy_walk *walk = (struct xfrm_policy_walk *) &cb->args[1];
1572         struct xfrm_dump_info info;
1573
1574         BUILD_BUG_ON(sizeof(struct xfrm_policy_walk) >
1575                      sizeof(cb->args) - sizeof(cb->args[0]));
1576
1577         info.in_skb = cb->skb;
1578         info.out_skb = skb;
1579         info.nlmsg_seq = cb->nlh->nlmsg_seq;
1580         info.nlmsg_flags = NLM_F_MULTI;
1581
1582         if (!cb->args[0]) {
1583                 cb->args[0] = 1;
1584                 xfrm_policy_walk_init(walk, XFRM_POLICY_TYPE_ANY);
1585         }
1586
1587         (void) xfrm_policy_walk(net, walk, dump_one_policy, &info);
1588
1589         return skb->len;
1590 }
1591
1592 static struct sk_buff *xfrm_policy_netlink(struct sk_buff *in_skb,
1593                                           struct xfrm_policy *xp,
1594                                           int dir, u32 seq)
1595 {
1596         struct xfrm_dump_info info;
1597         struct sk_buff *skb;
1598         int err;
1599
1600         skb = nlmsg_new(NLMSG_DEFAULT_SIZE, GFP_KERNEL);
1601         if (!skb)
1602                 return ERR_PTR(-ENOMEM);
1603
1604         info.in_skb = in_skb;
1605         info.out_skb = skb;
1606         info.nlmsg_seq = seq;
1607         info.nlmsg_flags = 0;
1608
1609         err = dump_one_policy(xp, dir, 0, &info);
1610         if (err) {
1611                 kfree_skb(skb);
1612                 return ERR_PTR(err);
1613         }
1614
1615         return skb;
1616 }
1617
1618 static int xfrm_get_policy(struct sk_buff *skb, struct nlmsghdr *nlh,
1619                 struct nlattr **attrs)
1620 {
1621         struct net *net = sock_net(skb->sk);
1622         struct xfrm_policy *xp;
1623         struct xfrm_userpolicy_id *p;
1624         u8 type = XFRM_POLICY_TYPE_MAIN;
1625         int err;
1626         struct km_event c;
1627         int delete;
1628         struct xfrm_mark m;
1629         u32 mark = xfrm_mark_get(attrs, &m);
1630
1631         p = nlmsg_data(nlh);
1632         delete = nlh->nlmsg_type == XFRM_MSG_DELPOLICY;
1633
1634         err = copy_from_user_policy_type(&type, attrs);
1635         if (err)
1636                 return err;
1637
1638         err = verify_policy_dir(p->dir);
1639         if (err)
1640                 return err;
1641
1642         if (p->index)
1643                 xp = xfrm_policy_byid(net, mark, type, p->dir, p->index, delete, &err);
1644         else {
1645                 struct nlattr *rt = attrs[XFRMA_SEC_CTX];
1646                 struct xfrm_sec_ctx *ctx;
1647
1648                 err = verify_sec_ctx_len(attrs);
1649                 if (err)
1650                         return err;
1651
1652                 ctx = NULL;
1653                 if (rt) {
1654                         struct xfrm_user_sec_ctx *uctx = nla_data(rt);
1655
1656                         err = security_xfrm_policy_alloc(&ctx, uctx, GFP_KERNEL);
1657                         if (err)
1658                                 return err;
1659                 }
1660                 xp = xfrm_policy_bysel_ctx(net, mark, type, p->dir, &p->sel,
1661                                            ctx, delete, &err);
1662                 security_xfrm_policy_free(ctx);
1663         }
1664         if (xp == NULL)
1665                 return -ENOENT;
1666
1667         if (!delete) {
1668                 struct sk_buff *resp_skb;
1669
1670                 resp_skb = xfrm_policy_netlink(skb, xp, p->dir, nlh->nlmsg_seq);
1671                 if (IS_ERR(resp_skb)) {
1672                         err = PTR_ERR(resp_skb);
1673                 } else {
1674                         err = nlmsg_unicast(net->xfrm.nlsk, resp_skb,
1675                                             NETLINK_CB(skb).portid);
1676                 }
1677         } else {
1678                 xfrm_audit_policy_delete(xp, err ? 0 : 1, true);
1679
1680                 if (err != 0)
1681                         goto out;
1682
1683                 c.data.byid = p->index;
1684                 c.event = nlh->nlmsg_type;
1685                 c.seq = nlh->nlmsg_seq;
1686                 c.portid = nlh->nlmsg_pid;
1687                 km_policy_notify(xp, p->dir, &c);
1688         }
1689
1690 out:
1691         xfrm_pol_put(xp);
1692         if (delete && err == 0)
1693                 xfrm_garbage_collect(net);
1694         return err;
1695 }
1696
1697 static int xfrm_flush_sa(struct sk_buff *skb, struct nlmsghdr *nlh,
1698                 struct nlattr **attrs)
1699 {
1700         struct net *net = sock_net(skb->sk);
1701         struct km_event c;
1702         struct xfrm_usersa_flush *p = nlmsg_data(nlh);
1703         int err;
1704
1705         err = xfrm_state_flush(net, p->proto, true);
1706         if (err) {
1707                 if (err == -ESRCH) /* empty table */
1708                         return 0;
1709                 return err;
1710         }
1711         c.data.proto = p->proto;
1712         c.event = nlh->nlmsg_type;
1713         c.seq = nlh->nlmsg_seq;
1714         c.portid = nlh->nlmsg_pid;
1715         c.net = net;
1716         km_state_notify(NULL, &c);
1717
1718         return 0;
1719 }
1720
1721 static inline size_t xfrm_aevent_msgsize(struct xfrm_state *x)
1722 {
1723         size_t replay_size = x->replay_esn ?
1724                               xfrm_replay_state_esn_len(x->replay_esn) :
1725                               sizeof(struct xfrm_replay_state);
1726
1727         return NLMSG_ALIGN(sizeof(struct xfrm_aevent_id))
1728                + nla_total_size(replay_size)
1729                + nla_total_size(sizeof(struct xfrm_lifetime_cur))
1730                + nla_total_size(sizeof(struct xfrm_mark))
1731                + nla_total_size(4) /* XFRM_AE_RTHR */
1732                + nla_total_size(4); /* XFRM_AE_ETHR */
1733 }
1734
1735 static int build_aevent(struct sk_buff *skb, struct xfrm_state *x, const struct km_event *c)
1736 {
1737         struct xfrm_aevent_id *id;
1738         struct nlmsghdr *nlh;
1739         int err;
1740
1741         nlh = nlmsg_put(skb, c->portid, c->seq, XFRM_MSG_NEWAE, sizeof(*id), 0);
1742         if (nlh == NULL)
1743                 return -EMSGSIZE;
1744
1745         id = nlmsg_data(nlh);
1746         memcpy(&id->sa_id.daddr, &x->id.daddr, sizeof(x->id.daddr));
1747         id->sa_id.spi = x->id.spi;
1748         id->sa_id.family = x->props.family;
1749         id->sa_id.proto = x->id.proto;
1750         memcpy(&id->saddr, &x->props.saddr, sizeof(x->props.saddr));
1751         id->reqid = x->props.reqid;
1752         id->flags = c->data.aevent;
1753
1754         if (x->replay_esn) {
1755                 err = nla_put(skb, XFRMA_REPLAY_ESN_VAL,
1756                               xfrm_replay_state_esn_len(x->replay_esn),
1757                               x->replay_esn);
1758         } else {
1759                 err = nla_put(skb, XFRMA_REPLAY_VAL, sizeof(x->replay),
1760                               &x->replay);
1761         }
1762         if (err)
1763                 goto out_cancel;
1764         err = nla_put(skb, XFRMA_LTIME_VAL, sizeof(x->curlft), &x->curlft);
1765         if (err)
1766                 goto out_cancel;
1767
1768         if (id->flags & XFRM_AE_RTHR) {
1769                 err = nla_put_u32(skb, XFRMA_REPLAY_THRESH, x->replay_maxdiff);
1770                 if (err)
1771                         goto out_cancel;
1772         }
1773         if (id->flags & XFRM_AE_ETHR) {
1774                 err = nla_put_u32(skb, XFRMA_ETIMER_THRESH,
1775                                   x->replay_maxage * 10 / HZ);
1776                 if (err)
1777                         goto out_cancel;
1778         }
1779         err = xfrm_mark_put(skb, &x->mark);
1780         if (err)
1781                 goto out_cancel;
1782
1783         return nlmsg_end(skb, nlh);
1784
1785 out_cancel:
1786         nlmsg_cancel(skb, nlh);
1787         return err;
1788 }
1789
1790 static int xfrm_get_ae(struct sk_buff *skb, struct nlmsghdr *nlh,
1791                 struct nlattr **attrs)
1792 {
1793         struct net *net = sock_net(skb->sk);
1794         struct xfrm_state *x;
1795         struct sk_buff *r_skb;
1796         int err;
1797         struct km_event c;
1798         u32 mark;
1799         struct xfrm_mark m;
1800         struct xfrm_aevent_id *p = nlmsg_data(nlh);
1801         struct xfrm_usersa_id *id = &p->sa_id;
1802
1803         mark = xfrm_mark_get(attrs, &m);
1804
1805         x = xfrm_state_lookup(net, mark, &id->daddr, id->spi, id->proto, id->family);
1806         if (x == NULL)
1807                 return -ESRCH;
1808
1809         r_skb = nlmsg_new(xfrm_aevent_msgsize(x), GFP_ATOMIC);
1810         if (r_skb == NULL) {
1811                 xfrm_state_put(x);
1812                 return -ENOMEM;
1813         }
1814
1815         /*
1816          * XXX: is this lock really needed - none of the other
1817          * gets lock (the concern is things getting updated
1818          * while we are still reading) - jhs
1819         */
1820         spin_lock_bh(&x->lock);
1821         c.data.aevent = p->flags;
1822         c.seq = nlh->nlmsg_seq;
1823         c.portid = nlh->nlmsg_pid;
1824
1825         if (build_aevent(r_skb, x, &c) < 0)
1826                 BUG();
1827         err = nlmsg_unicast(net->xfrm.nlsk, r_skb, NETLINK_CB(skb).portid);
1828         spin_unlock_bh(&x->lock);
1829         xfrm_state_put(x);
1830         return err;
1831 }
1832
1833 static int xfrm_new_ae(struct sk_buff *skb, struct nlmsghdr *nlh,
1834                 struct nlattr **attrs)
1835 {
1836         struct net *net = sock_net(skb->sk);
1837         struct xfrm_state *x;
1838         struct km_event c;
1839         int err = -EINVAL;
1840         u32 mark = 0;
1841         struct xfrm_mark m;
1842         struct xfrm_aevent_id *p = nlmsg_data(nlh);
1843         struct nlattr *rp = attrs[XFRMA_REPLAY_VAL];
1844         struct nlattr *re = attrs[XFRMA_REPLAY_ESN_VAL];
1845         struct nlattr *lt = attrs[XFRMA_LTIME_VAL];
1846
1847         if (!lt && !rp && !re)
1848                 return err;
1849
1850         /* pedantic mode - thou shalt sayeth replaceth */
1851         if (!(nlh->nlmsg_flags&NLM_F_REPLACE))
1852                 return err;
1853
1854         mark = xfrm_mark_get(attrs, &m);
1855
1856         x = xfrm_state_lookup(net, mark, &p->sa_id.daddr, p->sa_id.spi, p->sa_id.proto, p->sa_id.family);
1857         if (x == NULL)
1858                 return -ESRCH;
1859
1860         if (x->km.state != XFRM_STATE_VALID)
1861                 goto out;
1862
1863         err = xfrm_replay_verify_len(x->replay_esn, re);
1864         if (err)
1865                 goto out;
1866
1867         spin_lock_bh(&x->lock);
1868         xfrm_update_ae_params(x, attrs, 1);
1869         spin_unlock_bh(&x->lock);
1870
1871         c.event = nlh->nlmsg_type;
1872         c.seq = nlh->nlmsg_seq;
1873         c.portid = nlh->nlmsg_pid;
1874         c.data.aevent = XFRM_AE_CU;
1875         km_state_notify(x, &c);
1876         err = 0;
1877 out:
1878         xfrm_state_put(x);
1879         return err;
1880 }
1881
1882 static int xfrm_flush_policy(struct sk_buff *skb, struct nlmsghdr *nlh,
1883                 struct nlattr **attrs)
1884 {
1885         struct net *net = sock_net(skb->sk);
1886         struct km_event c;
1887         u8 type = XFRM_POLICY_TYPE_MAIN;
1888         int err;
1889
1890         err = copy_from_user_policy_type(&type, attrs);
1891         if (err)
1892                 return err;
1893
1894         err = xfrm_policy_flush(net, type, true);
1895         if (err) {
1896                 if (err == -ESRCH) /* empty table */
1897                         return 0;
1898                 return err;
1899         }
1900
1901         c.data.type = type;
1902         c.event = nlh->nlmsg_type;
1903         c.seq = nlh->nlmsg_seq;
1904         c.portid = nlh->nlmsg_pid;
1905         c.net = net;
1906         km_policy_notify(NULL, 0, &c);
1907         return 0;
1908 }
1909
1910 static int xfrm_add_pol_expire(struct sk_buff *skb, struct nlmsghdr *nlh,
1911                 struct nlattr **attrs)
1912 {
1913         struct net *net = sock_net(skb->sk);
1914         struct xfrm_policy *xp;
1915         struct xfrm_user_polexpire *up = nlmsg_data(nlh);
1916         struct xfrm_userpolicy_info *p = &up->pol;
1917         u8 type = XFRM_POLICY_TYPE_MAIN;
1918         int err = -ENOENT;
1919         struct xfrm_mark m;
1920         u32 mark = xfrm_mark_get(attrs, &m);
1921
1922         err = copy_from_user_policy_type(&type, attrs);
1923         if (err)
1924                 return err;
1925
1926         err = verify_policy_dir(p->dir);
1927         if (err)
1928                 return err;
1929
1930         if (p->index)
1931                 xp = xfrm_policy_byid(net, mark, type, p->dir, p->index, 0, &err);
1932         else {
1933                 struct nlattr *rt = attrs[XFRMA_SEC_CTX];
1934                 struct xfrm_sec_ctx *ctx;
1935
1936                 err = verify_sec_ctx_len(attrs);
1937                 if (err)
1938                         return err;
1939
1940                 ctx = NULL;
1941                 if (rt) {
1942                         struct xfrm_user_sec_ctx *uctx = nla_data(rt);
1943
1944                         err = security_xfrm_policy_alloc(&ctx, uctx, GFP_KERNEL);
1945                         if (err)
1946                                 return err;
1947                 }
1948                 xp = xfrm_policy_bysel_ctx(net, mark, type, p->dir,
1949                                            &p->sel, ctx, 0, &err);
1950                 security_xfrm_policy_free(ctx);
1951         }
1952         if (xp == NULL)
1953                 return -ENOENT;
1954
1955         if (unlikely(xp->walk.dead))
1956                 goto out;
1957
1958         err = 0;
1959         if (up->hard) {
1960                 xfrm_policy_delete(xp, p->dir);
1961                 xfrm_audit_policy_delete(xp, 1, true);
1962         } else {
1963                 // reset the timers here?
1964                 WARN(1, "Dont know what to do with soft policy expire\n");
1965         }
1966         km_policy_expired(xp, p->dir, up->hard, nlh->nlmsg_pid);
1967
1968 out:
1969         xfrm_pol_put(xp);
1970         return err;
1971 }
1972
1973 static int xfrm_add_sa_expire(struct sk_buff *skb, struct nlmsghdr *nlh,
1974                 struct nlattr **attrs)
1975 {
1976         struct net *net = sock_net(skb->sk);
1977         struct xfrm_state *x;
1978         int err;
1979         struct xfrm_user_expire *ue = nlmsg_data(nlh);
1980         struct xfrm_usersa_info *p = &ue->state;
1981         struct xfrm_mark m;
1982         u32 mark = xfrm_mark_get(attrs, &m);
1983
1984         x = xfrm_state_lookup(net, mark, &p->id.daddr, p->id.spi, p->id.proto, p->family);
1985
1986         err = -ENOENT;
1987         if (x == NULL)
1988                 return err;
1989
1990         spin_lock_bh(&x->lock);
1991         err = -EINVAL;
1992         if (x->km.state != XFRM_STATE_VALID)
1993                 goto out;
1994         km_state_expired(x, ue->hard, nlh->nlmsg_pid);
1995
1996         if (ue->hard) {
1997                 __xfrm_state_delete(x);
1998                 xfrm_audit_state_delete(x, 1, true);
1999         }
2000         err = 0;
2001 out:
2002         spin_unlock_bh(&x->lock);
2003         xfrm_state_put(x);
2004         return err;
2005 }
2006
2007 static int xfrm_add_acquire(struct sk_buff *skb, struct nlmsghdr *nlh,
2008                 struct nlattr **attrs)
2009 {
2010         struct net *net = sock_net(skb->sk);
2011         struct xfrm_policy *xp;
2012         struct xfrm_user_tmpl *ut;
2013         int i;
2014         struct nlattr *rt = attrs[XFRMA_TMPL];
2015         struct xfrm_mark mark;
2016
2017         struct xfrm_user_acquire *ua = nlmsg_data(nlh);
2018         struct xfrm_state *x = xfrm_state_alloc(net);
2019         int err = -ENOMEM;
2020
2021         if (!x)
2022                 goto nomem;
2023
2024         xfrm_mark_get(attrs, &mark);
2025
2026         err = verify_newpolicy_info(&ua->policy);
2027         if (err)
2028                 goto bad_policy;
2029
2030         /*   build an XP */
2031         xp = xfrm_policy_construct(net, &ua->policy, attrs, &err);
2032         if (!xp)
2033                 goto free_state;
2034
2035         memcpy(&x->id, &ua->id, sizeof(ua->id));
2036         memcpy(&x->props.saddr, &ua->saddr, sizeof(ua->saddr));
2037         memcpy(&x->sel, &ua->sel, sizeof(ua->sel));
2038         xp->mark.m = x->mark.m = mark.m;
2039         xp->mark.v = x->mark.v = mark.v;
2040         ut = nla_data(rt);
2041         /* extract the templates and for each call km_key */
2042         for (i = 0; i < xp->xfrm_nr; i++, ut++) {
2043                 struct xfrm_tmpl *t = &xp->xfrm_vec[i];
2044                 memcpy(&x->id, &t->id, sizeof(x->id));
2045                 x->props.mode = t->mode;
2046                 x->props.reqid = t->reqid;
2047                 x->props.family = ut->family;
2048                 t->aalgos = ua->aalgos;
2049                 t->ealgos = ua->ealgos;
2050                 t->calgos = ua->calgos;
2051                 err = km_query(x, t, xp);
2052
2053         }
2054
2055         kfree(x);
2056         kfree(xp);
2057
2058         return 0;
2059
2060 bad_policy:
2061         WARN(1, "BAD policy passed\n");
2062 free_state:
2063         kfree(x);
2064 nomem:
2065         return err;
2066 }
2067
2068 #ifdef CONFIG_XFRM_MIGRATE
2069 static int copy_from_user_migrate(struct xfrm_migrate *ma,
2070                                   struct xfrm_kmaddress *k,
2071                                   struct nlattr **attrs, int *num)
2072 {
2073         struct nlattr *rt = attrs[XFRMA_MIGRATE];
2074         struct xfrm_user_migrate *um;
2075         int i, num_migrate;
2076
2077         if (k != NULL) {
2078                 struct xfrm_user_kmaddress *uk;
2079
2080                 uk = nla_data(attrs[XFRMA_KMADDRESS]);
2081                 memcpy(&k->local, &uk->local, sizeof(k->local));
2082                 memcpy(&k->remote, &uk->remote, sizeof(k->remote));
2083                 k->family = uk->family;
2084                 k->reserved = uk->reserved;
2085         }
2086
2087         um = nla_data(rt);
2088         num_migrate = nla_len(rt) / sizeof(*um);
2089
2090         if (num_migrate <= 0 || num_migrate > XFRM_MAX_DEPTH)
2091                 return -EINVAL;
2092
2093         for (i = 0; i < num_migrate; i++, um++, ma++) {
2094                 memcpy(&ma->old_daddr, &um->old_daddr, sizeof(ma->old_daddr));
2095                 memcpy(&ma->old_saddr, &um->old_saddr, sizeof(ma->old_saddr));
2096                 memcpy(&ma->new_daddr, &um->new_daddr, sizeof(ma->new_daddr));
2097                 memcpy(&ma->new_saddr, &um->new_saddr, sizeof(ma->new_saddr));
2098
2099                 ma->proto = um->proto;
2100                 ma->mode = um->mode;
2101                 ma->reqid = um->reqid;
2102
2103                 ma->old_family = um->old_family;
2104                 ma->new_family = um->new_family;
2105         }
2106
2107         *num = i;
2108         return 0;
2109 }
2110
2111 static int xfrm_do_migrate(struct sk_buff *skb, struct nlmsghdr *nlh,
2112                            struct nlattr **attrs)
2113 {
2114         struct xfrm_userpolicy_id *pi = nlmsg_data(nlh);
2115         struct xfrm_migrate m[XFRM_MAX_DEPTH];
2116         struct xfrm_kmaddress km, *kmp;
2117         u8 type;
2118         int err;
2119         int n = 0;
2120         struct net *net = sock_net(skb->sk);
2121
2122         if (attrs[XFRMA_MIGRATE] == NULL)
2123                 return -EINVAL;
2124
2125         kmp = attrs[XFRMA_KMADDRESS] ? &km : NULL;
2126
2127         err = copy_from_user_policy_type(&type, attrs);
2128         if (err)
2129                 return err;
2130
2131         err = copy_from_user_migrate((struct xfrm_migrate *)m, kmp, attrs, &n);
2132         if (err)
2133                 return err;
2134
2135         if (!n)
2136                 return 0;
2137
2138         xfrm_migrate(&pi->sel, pi->dir, type, m, n, kmp, net);
2139
2140         return 0;
2141 }
2142 #else
2143 static int xfrm_do_migrate(struct sk_buff *skb, struct nlmsghdr *nlh,
2144                            struct nlattr **attrs)
2145 {
2146         return -ENOPROTOOPT;
2147 }
2148 #endif
2149
2150 #ifdef CONFIG_XFRM_MIGRATE
2151 static int copy_to_user_migrate(const struct xfrm_migrate *m, struct sk_buff *skb)
2152 {
2153         struct xfrm_user_migrate um;
2154
2155         memset(&um, 0, sizeof(um));
2156         um.proto = m->proto;
2157         um.mode = m->mode;
2158         um.reqid = m->reqid;
2159         um.old_family = m->old_family;
2160         memcpy(&um.old_daddr, &m->old_daddr, sizeof(um.old_daddr));
2161         memcpy(&um.old_saddr, &m->old_saddr, sizeof(um.old_saddr));
2162         um.new_family = m->new_family;
2163         memcpy(&um.new_daddr, &m->new_daddr, sizeof(um.new_daddr));
2164         memcpy(&um.new_saddr, &m->new_saddr, sizeof(um.new_saddr));
2165
2166         return nla_put(skb, XFRMA_MIGRATE, sizeof(um), &um);
2167 }
2168
2169 static int copy_to_user_kmaddress(const struct xfrm_kmaddress *k, struct sk_buff *skb)
2170 {
2171         struct xfrm_user_kmaddress uk;
2172
2173         memset(&uk, 0, sizeof(uk));
2174         uk.family = k->family;
2175         uk.reserved = k->reserved;
2176         memcpy(&uk.local, &k->local, sizeof(uk.local));
2177         memcpy(&uk.remote, &k->remote, sizeof(uk.remote));
2178
2179         return nla_put(skb, XFRMA_KMADDRESS, sizeof(uk), &uk);
2180 }
2181
2182 static inline size_t xfrm_migrate_msgsize(int num_migrate, int with_kma)
2183 {
2184         return NLMSG_ALIGN(sizeof(struct xfrm_userpolicy_id))
2185               + (with_kma ? nla_total_size(sizeof(struct xfrm_kmaddress)) : 0)
2186               + nla_total_size(sizeof(struct xfrm_user_migrate) * num_migrate)
2187               + userpolicy_type_attrsize();
2188 }
2189
2190 static int build_migrate(struct sk_buff *skb, const struct xfrm_migrate *m,
2191                          int num_migrate, const struct xfrm_kmaddress *k,
2192                          const struct xfrm_selector *sel, u8 dir, u8 type)
2193 {
2194         const struct xfrm_migrate *mp;
2195         struct xfrm_userpolicy_id *pol_id;
2196         struct nlmsghdr *nlh;
2197         int i, err;
2198
2199         nlh = nlmsg_put(skb, 0, 0, XFRM_MSG_MIGRATE, sizeof(*pol_id), 0);
2200         if (nlh == NULL)
2201                 return -EMSGSIZE;
2202
2203         pol_id = nlmsg_data(nlh);
2204         /* copy data from selector, dir, and type to the pol_id */
2205         memset(pol_id, 0, sizeof(*pol_id));
2206         memcpy(&pol_id->sel, sel, sizeof(pol_id->sel));
2207         pol_id->dir = dir;
2208
2209         if (k != NULL) {
2210                 err = copy_to_user_kmaddress(k, skb);
2211                 if (err)
2212                         goto out_cancel;
2213         }
2214         err = copy_to_user_policy_type(type, skb);
2215         if (err)
2216                 goto out_cancel;
2217         for (i = 0, mp = m ; i < num_migrate; i++, mp++) {
2218                 err = copy_to_user_migrate(mp, skb);
2219                 if (err)
2220                         goto out_cancel;
2221         }
2222
2223         return nlmsg_end(skb, nlh);
2224
2225 out_cancel:
2226         nlmsg_cancel(skb, nlh);
2227         return err;
2228 }
2229
2230 static int xfrm_send_migrate(const struct xfrm_selector *sel, u8 dir, u8 type,
2231                              const struct xfrm_migrate *m, int num_migrate,
2232                              const struct xfrm_kmaddress *k)
2233 {
2234         struct net *net = &init_net;
2235         struct sk_buff *skb;
2236
2237         skb = nlmsg_new(xfrm_migrate_msgsize(num_migrate, !!k), GFP_ATOMIC);
2238         if (skb == NULL)
2239                 return -ENOMEM;
2240
2241         /* build migrate */
2242         if (build_migrate(skb, m, num_migrate, k, sel, dir, type) < 0)
2243                 BUG();
2244
2245         return xfrm_nlmsg_multicast(net, skb, 0, XFRMNLGRP_MIGRATE);
2246 }
2247 #else
2248 static int xfrm_send_migrate(const struct xfrm_selector *sel, u8 dir, u8 type,
2249                              const struct xfrm_migrate *m, int num_migrate,
2250                              const struct xfrm_kmaddress *k)
2251 {
2252         return -ENOPROTOOPT;
2253 }
2254 #endif
2255
2256 #define XMSGSIZE(type) sizeof(struct type)
2257
2258 static const int xfrm_msg_min[XFRM_NR_MSGTYPES] = {
2259         [XFRM_MSG_NEWSA       - XFRM_MSG_BASE] = XMSGSIZE(xfrm_usersa_info),
2260         [XFRM_MSG_DELSA       - XFRM_MSG_BASE] = XMSGSIZE(xfrm_usersa_id),
2261         [XFRM_MSG_GETSA       - XFRM_MSG_BASE] = XMSGSIZE(xfrm_usersa_id),
2262         [XFRM_MSG_NEWPOLICY   - XFRM_MSG_BASE] = XMSGSIZE(xfrm_userpolicy_info),
2263         [XFRM_MSG_DELPOLICY   - XFRM_MSG_BASE] = XMSGSIZE(xfrm_userpolicy_id),
2264         [XFRM_MSG_GETPOLICY   - XFRM_MSG_BASE] = XMSGSIZE(xfrm_userpolicy_id),
2265         [XFRM_MSG_ALLOCSPI    - XFRM_MSG_BASE] = XMSGSIZE(xfrm_userspi_info),
2266         [XFRM_MSG_ACQUIRE     - XFRM_MSG_BASE] = XMSGSIZE(xfrm_user_acquire),
2267         [XFRM_MSG_EXPIRE      - XFRM_MSG_BASE] = XMSGSIZE(xfrm_user_expire),
2268         [XFRM_MSG_UPDPOLICY   - XFRM_MSG_BASE] = XMSGSIZE(xfrm_userpolicy_info),
2269         [XFRM_MSG_UPDSA       - XFRM_MSG_BASE] = XMSGSIZE(xfrm_usersa_info),
2270         [XFRM_MSG_POLEXPIRE   - XFRM_MSG_BASE] = XMSGSIZE(xfrm_user_polexpire),
2271         [XFRM_MSG_FLUSHSA     - XFRM_MSG_BASE] = XMSGSIZE(xfrm_usersa_flush),
2272         [XFRM_MSG_FLUSHPOLICY - XFRM_MSG_BASE] = 0,
2273         [XFRM_MSG_NEWAE       - XFRM_MSG_BASE] = XMSGSIZE(xfrm_aevent_id),
2274         [XFRM_MSG_GETAE       - XFRM_MSG_BASE] = XMSGSIZE(xfrm_aevent_id),
2275         [XFRM_MSG_REPORT      - XFRM_MSG_BASE] = XMSGSIZE(xfrm_user_report),
2276         [XFRM_MSG_MIGRATE     - XFRM_MSG_BASE] = XMSGSIZE(xfrm_userpolicy_id),
2277         [XFRM_MSG_GETSADINFO  - XFRM_MSG_BASE] = sizeof(u32),
2278         [XFRM_MSG_GETSPDINFO  - XFRM_MSG_BASE] = sizeof(u32),
2279 };
2280
2281 #undef XMSGSIZE
2282
2283 static const struct nla_policy xfrma_policy[XFRMA_MAX+1] = {
2284         [XFRMA_SA]              = { .len = sizeof(struct xfrm_usersa_info)},
2285         [XFRMA_POLICY]          = { .len = sizeof(struct xfrm_userpolicy_info)},
2286         [XFRMA_LASTUSED]        = { .type = NLA_U64},
2287         [XFRMA_ALG_AUTH_TRUNC]  = { .len = sizeof(struct xfrm_algo_auth)},
2288         [XFRMA_ALG_AEAD]        = { .len = sizeof(struct xfrm_algo_aead) },
2289         [XFRMA_ALG_AUTH]        = { .len = sizeof(struct xfrm_algo) },
2290         [XFRMA_ALG_CRYPT]       = { .len = sizeof(struct xfrm_algo) },
2291         [XFRMA_ALG_COMP]        = { .len = sizeof(struct xfrm_algo) },
2292         [XFRMA_ENCAP]           = { .len = sizeof(struct xfrm_encap_tmpl) },
2293         [XFRMA_TMPL]            = { .len = sizeof(struct xfrm_user_tmpl) },
2294         [XFRMA_SEC_CTX]         = { .len = sizeof(struct xfrm_sec_ctx) },
2295         [XFRMA_LTIME_VAL]       = { .len = sizeof(struct xfrm_lifetime_cur) },
2296         [XFRMA_REPLAY_VAL]      = { .len = sizeof(struct xfrm_replay_state) },
2297         [XFRMA_REPLAY_THRESH]   = { .type = NLA_U32 },
2298         [XFRMA_ETIMER_THRESH]   = { .type = NLA_U32 },
2299         [XFRMA_SRCADDR]         = { .len = sizeof(xfrm_address_t) },
2300         [XFRMA_COADDR]          = { .len = sizeof(xfrm_address_t) },
2301         [XFRMA_POLICY_TYPE]     = { .len = sizeof(struct xfrm_userpolicy_type)},
2302         [XFRMA_MIGRATE]         = { .len = sizeof(struct xfrm_user_migrate) },
2303         [XFRMA_KMADDRESS]       = { .len = sizeof(struct xfrm_user_kmaddress) },
2304         [XFRMA_MARK]            = { .len = sizeof(struct xfrm_mark) },
2305         [XFRMA_TFCPAD]          = { .type = NLA_U32 },
2306         [XFRMA_REPLAY_ESN_VAL]  = { .len = sizeof(struct xfrm_replay_state_esn) },
2307         [XFRMA_SA_EXTRA_FLAGS]  = { .type = NLA_U32 },
2308         [XFRMA_PROTO]           = { .type = NLA_U8 },
2309         [XFRMA_ADDRESS_FILTER]  = { .len = sizeof(struct xfrm_address_filter) },
2310 };
2311
2312 static const struct xfrm_link {
2313         int (*doit)(struct sk_buff *, struct nlmsghdr *, struct nlattr **);
2314         int (*dump)(struct sk_buff *, struct netlink_callback *);
2315         int (*done)(struct netlink_callback *);
2316 } xfrm_dispatch[XFRM_NR_MSGTYPES] = {
2317         [XFRM_MSG_NEWSA       - XFRM_MSG_BASE] = { .doit = xfrm_add_sa        },
2318         [XFRM_MSG_DELSA       - XFRM_MSG_BASE] = { .doit = xfrm_del_sa        },
2319         [XFRM_MSG_GETSA       - XFRM_MSG_BASE] = { .doit = xfrm_get_sa,
2320                                                    .dump = xfrm_dump_sa,
2321                                                    .done = xfrm_dump_sa_done  },
2322         [XFRM_MSG_NEWPOLICY   - XFRM_MSG_BASE] = { .doit = xfrm_add_policy    },
2323         [XFRM_MSG_DELPOLICY   - XFRM_MSG_BASE] = { .doit = xfrm_get_policy    },
2324         [XFRM_MSG_GETPOLICY   - XFRM_MSG_BASE] = { .doit = xfrm_get_policy,
2325                                                    .dump = xfrm_dump_policy,
2326                                                    .done = xfrm_dump_policy_done },
2327         [XFRM_MSG_ALLOCSPI    - XFRM_MSG_BASE] = { .doit = xfrm_alloc_userspi },
2328         [XFRM_MSG_ACQUIRE     - XFRM_MSG_BASE] = { .doit = xfrm_add_acquire   },
2329         [XFRM_MSG_EXPIRE      - XFRM_MSG_BASE] = { .doit = xfrm_add_sa_expire },
2330         [XFRM_MSG_UPDPOLICY   - XFRM_MSG_BASE] = { .doit = xfrm_add_policy    },
2331         [XFRM_MSG_UPDSA       - XFRM_MSG_BASE] = { .doit = xfrm_add_sa        },
2332         [XFRM_MSG_POLEXPIRE   - XFRM_MSG_BASE] = { .doit = xfrm_add_pol_expire},
2333         [XFRM_MSG_FLUSHSA     - XFRM_MSG_BASE] = { .doit = xfrm_flush_sa      },
2334         [XFRM_MSG_FLUSHPOLICY - XFRM_MSG_BASE] = { .doit = xfrm_flush_policy  },
2335         [XFRM_MSG_NEWAE       - XFRM_MSG_BASE] = { .doit = xfrm_new_ae  },
2336         [XFRM_MSG_GETAE       - XFRM_MSG_BASE] = { .doit = xfrm_get_ae  },
2337         [XFRM_MSG_MIGRATE     - XFRM_MSG_BASE] = { .doit = xfrm_do_migrate    },
2338         [XFRM_MSG_GETSADINFO  - XFRM_MSG_BASE] = { .doit = xfrm_get_sadinfo   },
2339         [XFRM_MSG_GETSPDINFO  - XFRM_MSG_BASE] = { .doit = xfrm_get_spdinfo   },
2340 };
2341
2342 static int xfrm_user_rcv_msg(struct sk_buff *skb, struct nlmsghdr *nlh)
2343 {
2344         struct net *net = sock_net(skb->sk);
2345         struct nlattr *attrs[XFRMA_MAX+1];
2346         const struct xfrm_link *link;
2347         int type, err;
2348
2349         type = nlh->nlmsg_type;
2350         if (type > XFRM_MSG_MAX)
2351                 return -EINVAL;
2352
2353         type -= XFRM_MSG_BASE;
2354         link = &xfrm_dispatch[type];
2355
2356         /* All operations require privileges, even GET */
2357         if (!netlink_net_capable(skb, CAP_NET_ADMIN))
2358                 return -EPERM;
2359
2360         if ((type == (XFRM_MSG_GETSA - XFRM_MSG_BASE) ||
2361              type == (XFRM_MSG_GETPOLICY - XFRM_MSG_BASE)) &&
2362             (nlh->nlmsg_flags & NLM_F_DUMP)) {
2363                 if (link->dump == NULL)
2364                         return -EINVAL;
2365
2366                 {
2367                         struct netlink_dump_control c = {
2368                                 .dump = link->dump,
2369                                 .done = link->done,
2370                         };
2371                         return netlink_dump_start(net->xfrm.nlsk, skb, nlh, &c);
2372                 }
2373         }
2374
2375         err = nlmsg_parse(nlh, xfrm_msg_min[type], attrs, XFRMA_MAX,
2376                           xfrma_policy);
2377         if (err < 0)
2378                 return err;
2379
2380         if (link->doit == NULL)
2381                 return -EINVAL;
2382
2383         return link->doit(skb, nlh, attrs);
2384 }
2385
2386 static void xfrm_netlink_rcv(struct sk_buff *skb)
2387 {
2388         struct net *net = sock_net(skb->sk);
2389
2390         mutex_lock(&net->xfrm.xfrm_cfg_mutex);
2391         netlink_rcv_skb(skb, &xfrm_user_rcv_msg);
2392         mutex_unlock(&net->xfrm.xfrm_cfg_mutex);
2393 }
2394
2395 static inline size_t xfrm_expire_msgsize(void)
2396 {
2397         return NLMSG_ALIGN(sizeof(struct xfrm_user_expire))
2398                + nla_total_size(sizeof(struct xfrm_mark));
2399 }
2400
2401 static int build_expire(struct sk_buff *skb, struct xfrm_state *x, const struct km_event *c)
2402 {
2403         struct xfrm_user_expire *ue;
2404         struct nlmsghdr *nlh;
2405         int err;
2406
2407         nlh = nlmsg_put(skb, c->portid, 0, XFRM_MSG_EXPIRE, sizeof(*ue), 0);
2408         if (nlh == NULL)
2409                 return -EMSGSIZE;
2410
2411         ue = nlmsg_data(nlh);
2412         copy_to_user_state(x, &ue->state);
2413         ue->hard = (c->data.hard != 0) ? 1 : 0;
2414
2415         err = xfrm_mark_put(skb, &x->mark);
2416         if (err)
2417                 return err;
2418
2419         return nlmsg_end(skb, nlh);
2420 }
2421
2422 static int xfrm_exp_state_notify(struct xfrm_state *x, const struct km_event *c)
2423 {
2424         struct net *net = xs_net(x);
2425         struct sk_buff *skb;
2426
2427         skb = nlmsg_new(xfrm_expire_msgsize(), GFP_ATOMIC);
2428         if (skb == NULL)
2429                 return -ENOMEM;
2430
2431         if (build_expire(skb, x, c) < 0) {
2432                 kfree_skb(skb);
2433                 return -EMSGSIZE;
2434         }
2435
2436         return xfrm_nlmsg_multicast(net, skb, 0, XFRMNLGRP_EXPIRE);
2437 }
2438
2439 static int xfrm_aevent_state_notify(struct xfrm_state *x, const struct km_event *c)
2440 {
2441         struct net *net = xs_net(x);
2442         struct sk_buff *skb;
2443
2444         skb = nlmsg_new(xfrm_aevent_msgsize(x), GFP_ATOMIC);
2445         if (skb == NULL)
2446                 return -ENOMEM;
2447
2448         if (build_aevent(skb, x, c) < 0)
2449                 BUG();
2450
2451         return xfrm_nlmsg_multicast(net, skb, 0, XFRMNLGRP_AEVENTS);
2452 }
2453
2454 static int xfrm_notify_sa_flush(const struct km_event *c)
2455 {
2456         struct net *net = c->net;
2457         struct xfrm_usersa_flush *p;
2458         struct nlmsghdr *nlh;
2459         struct sk_buff *skb;
2460         int len = NLMSG_ALIGN(sizeof(struct xfrm_usersa_flush));
2461
2462         skb = nlmsg_new(len, GFP_ATOMIC);
2463         if (skb == NULL)
2464                 return -ENOMEM;
2465
2466         nlh = nlmsg_put(skb, c->portid, c->seq, XFRM_MSG_FLUSHSA, sizeof(*p), 0);
2467         if (nlh == NULL) {
2468                 kfree_skb(skb);
2469                 return -EMSGSIZE;
2470         }
2471
2472         p = nlmsg_data(nlh);
2473         p->proto = c->data.proto;
2474
2475         nlmsg_end(skb, nlh);
2476
2477         return xfrm_nlmsg_multicast(net, skb, 0, XFRMNLGRP_SA);
2478 }
2479
2480 static inline size_t xfrm_sa_len(struct xfrm_state *x)
2481 {
2482         size_t l = 0;
2483         if (x->aead)
2484                 l += nla_total_size(aead_len(x->aead));
2485         if (x->aalg) {
2486                 l += nla_total_size(sizeof(struct xfrm_algo) +
2487                                     (x->aalg->alg_key_len + 7) / 8);
2488                 l += nla_total_size(xfrm_alg_auth_len(x->aalg));
2489         }
2490         if (x->ealg)
2491                 l += nla_total_size(xfrm_alg_len(x->ealg));
2492         if (x->calg)
2493                 l += nla_total_size(sizeof(*x->calg));
2494         if (x->encap)
2495                 l += nla_total_size(sizeof(*x->encap));
2496         if (x->tfcpad)
2497                 l += nla_total_size(sizeof(x->tfcpad));
2498         if (x->replay_esn)
2499                 l += nla_total_size(xfrm_replay_state_esn_len(x->replay_esn));
2500         if (x->security)
2501                 l += nla_total_size(sizeof(struct xfrm_user_sec_ctx) +
2502                                     x->security->ctx_len);
2503         if (x->coaddr)
2504                 l += nla_total_size(sizeof(*x->coaddr));
2505         if (x->props.extra_flags)
2506                 l += nla_total_size(sizeof(x->props.extra_flags));
2507
2508         /* Must count x->lastused as it may become non-zero behind our back. */
2509         l += nla_total_size(sizeof(u64));
2510
2511         return l;
2512 }
2513
2514 static int xfrm_notify_sa(struct xfrm_state *x, const struct km_event *c)
2515 {
2516         struct net *net = xs_net(x);
2517         struct xfrm_usersa_info *p;
2518         struct xfrm_usersa_id *id;
2519         struct nlmsghdr *nlh;
2520         struct sk_buff *skb;
2521         int len = xfrm_sa_len(x);
2522         int headlen, err;
2523
2524         headlen = sizeof(*p);
2525         if (c->event == XFRM_MSG_DELSA) {
2526                 len += nla_total_size(headlen);
2527                 headlen = sizeof(*id);
2528                 len += nla_total_size(sizeof(struct xfrm_mark));
2529         }
2530         len += NLMSG_ALIGN(headlen);
2531
2532         skb = nlmsg_new(len, GFP_ATOMIC);
2533         if (skb == NULL)
2534                 return -ENOMEM;
2535
2536         nlh = nlmsg_put(skb, c->portid, c->seq, c->event, headlen, 0);
2537         err = -EMSGSIZE;
2538         if (nlh == NULL)
2539                 goto out_free_skb;
2540
2541         p = nlmsg_data(nlh);
2542         if (c->event == XFRM_MSG_DELSA) {
2543                 struct nlattr *attr;
2544
2545                 id = nlmsg_data(nlh);
2546                 memcpy(&id->daddr, &x->id.daddr, sizeof(id->daddr));
2547                 id->spi = x->id.spi;
2548                 id->family = x->props.family;
2549                 id->proto = x->id.proto;
2550
2551                 attr = nla_reserve(skb, XFRMA_SA, sizeof(*p));
2552                 err = -EMSGSIZE;
2553                 if (attr == NULL)
2554                         goto out_free_skb;
2555
2556                 p = nla_data(attr);
2557         }
2558         err = copy_to_user_state_extra(x, p, skb);
2559         if (err)
2560                 goto out_free_skb;
2561
2562         nlmsg_end(skb, nlh);
2563
2564         return xfrm_nlmsg_multicast(net, skb, 0, XFRMNLGRP_SA);
2565
2566 out_free_skb:
2567         kfree_skb(skb);
2568         return err;
2569 }
2570
2571 static int xfrm_send_state_notify(struct xfrm_state *x, const struct km_event *c)
2572 {
2573
2574         switch (c->event) {
2575         case XFRM_MSG_EXPIRE:
2576                 return xfrm_exp_state_notify(x, c);
2577         case XFRM_MSG_NEWAE:
2578                 return xfrm_aevent_state_notify(x, c);
2579         case XFRM_MSG_DELSA:
2580         case XFRM_MSG_UPDSA:
2581         case XFRM_MSG_NEWSA:
2582                 return xfrm_notify_sa(x, c);
2583         case XFRM_MSG_FLUSHSA:
2584                 return xfrm_notify_sa_flush(c);
2585         default:
2586                 printk(KERN_NOTICE "xfrm_user: Unknown SA event %d\n",
2587                        c->event);
2588                 break;
2589         }
2590
2591         return 0;
2592
2593 }
2594
2595 static inline size_t xfrm_acquire_msgsize(struct xfrm_state *x,
2596                                           struct xfrm_policy *xp)
2597 {
2598         return NLMSG_ALIGN(sizeof(struct xfrm_user_acquire))
2599                + nla_total_size(sizeof(struct xfrm_user_tmpl) * xp->xfrm_nr)
2600                + nla_total_size(sizeof(struct xfrm_mark))
2601                + nla_total_size(xfrm_user_sec_ctx_size(x->security))
2602                + userpolicy_type_attrsize();
2603 }
2604
2605 static int build_acquire(struct sk_buff *skb, struct xfrm_state *x,
2606                          struct xfrm_tmpl *xt, struct xfrm_policy *xp)
2607 {
2608         __u32 seq = xfrm_get_acqseq();
2609         struct xfrm_user_acquire *ua;
2610         struct nlmsghdr *nlh;
2611         int err;
2612
2613         nlh = nlmsg_put(skb, 0, 0, XFRM_MSG_ACQUIRE, sizeof(*ua), 0);
2614         if (nlh == NULL)
2615                 return -EMSGSIZE;
2616
2617         ua = nlmsg_data(nlh);
2618         memcpy(&ua->id, &x->id, sizeof(ua->id));
2619         memcpy(&ua->saddr, &x->props.saddr, sizeof(ua->saddr));
2620         memcpy(&ua->sel, &x->sel, sizeof(ua->sel));
2621         copy_to_user_policy(xp, &ua->policy, XFRM_POLICY_OUT);
2622         ua->aalgos = xt->aalgos;
2623         ua->ealgos = xt->ealgos;
2624         ua->calgos = xt->calgos;
2625         ua->seq = x->km.seq = seq;
2626
2627         err = copy_to_user_tmpl(xp, skb);
2628         if (!err)
2629                 err = copy_to_user_state_sec_ctx(x, skb);
2630         if (!err)
2631                 err = copy_to_user_policy_type(xp->type, skb);
2632         if (!err)
2633                 err = xfrm_mark_put(skb, &xp->mark);
2634         if (err) {
2635                 nlmsg_cancel(skb, nlh);
2636                 return err;
2637         }
2638
2639         return nlmsg_end(skb, nlh);
2640 }
2641
2642 static int xfrm_send_acquire(struct xfrm_state *x, struct xfrm_tmpl *xt,
2643                              struct xfrm_policy *xp)
2644 {
2645         struct net *net = xs_net(x);
2646         struct sk_buff *skb;
2647
2648         skb = nlmsg_new(xfrm_acquire_msgsize(x, xp), GFP_ATOMIC);
2649         if (skb == NULL)
2650                 return -ENOMEM;
2651
2652         if (build_acquire(skb, x, xt, xp) < 0)
2653                 BUG();
2654
2655         return xfrm_nlmsg_multicast(net, skb, 0, XFRMNLGRP_ACQUIRE);
2656 }
2657
2658 /* User gives us xfrm_user_policy_info followed by an array of 0
2659  * or more templates.
2660  */
2661 static struct xfrm_policy *xfrm_compile_policy(struct sock *sk, int opt,
2662                                                u8 *data, int len, int *dir)
2663 {
2664         struct net *net = sock_net(sk);
2665         struct xfrm_userpolicy_info *p = (struct xfrm_userpolicy_info *)data;
2666         struct xfrm_user_tmpl *ut = (struct xfrm_user_tmpl *) (p + 1);
2667         struct xfrm_policy *xp;
2668         int nr;
2669
2670         switch (sk->sk_family) {
2671         case AF_INET:
2672                 if (opt != IP_XFRM_POLICY) {
2673                         *dir = -EOPNOTSUPP;
2674                         return NULL;
2675                 }
2676                 break;
2677 #if IS_ENABLED(CONFIG_IPV6)
2678         case AF_INET6:
2679                 if (opt != IPV6_XFRM_POLICY) {
2680                         *dir = -EOPNOTSUPP;
2681                         return NULL;
2682                 }
2683                 break;
2684 #endif
2685         default:
2686                 *dir = -EINVAL;
2687                 return NULL;
2688         }
2689
2690         *dir = -EINVAL;
2691
2692         if (len < sizeof(*p) ||
2693             verify_newpolicy_info(p))
2694                 return NULL;
2695
2696         nr = ((len - sizeof(*p)) / sizeof(*ut));
2697         if (validate_tmpl(nr, ut, p->sel.family))
2698                 return NULL;
2699
2700         if (p->dir > XFRM_POLICY_OUT)
2701                 return NULL;
2702
2703         xp = xfrm_policy_alloc(net, GFP_ATOMIC);
2704         if (xp == NULL) {
2705                 *dir = -ENOBUFS;
2706                 return NULL;
2707         }
2708
2709         copy_from_user_policy(xp, p);
2710         xp->type = XFRM_POLICY_TYPE_MAIN;
2711         copy_templates(xp, ut, nr);
2712
2713         *dir = p->dir;
2714
2715         return xp;
2716 }
2717
2718 static inline size_t xfrm_polexpire_msgsize(struct xfrm_policy *xp)
2719 {
2720         return NLMSG_ALIGN(sizeof(struct xfrm_user_polexpire))
2721                + nla_total_size(sizeof(struct xfrm_user_tmpl) * xp->xfrm_nr)
2722                + nla_total_size(xfrm_user_sec_ctx_size(xp->security))
2723                + nla_total_size(sizeof(struct xfrm_mark))
2724                + userpolicy_type_attrsize();
2725 }
2726
2727 static int build_polexpire(struct sk_buff *skb, struct xfrm_policy *xp,
2728                            int dir, const struct km_event *c)
2729 {
2730         struct xfrm_user_polexpire *upe;
2731         int hard = c->data.hard;
2732         struct nlmsghdr *nlh;
2733         int err;
2734
2735         nlh = nlmsg_put(skb, c->portid, 0, XFRM_MSG_POLEXPIRE, sizeof(*upe), 0);
2736         if (nlh == NULL)
2737                 return -EMSGSIZE;
2738
2739         upe = nlmsg_data(nlh);
2740         copy_to_user_policy(xp, &upe->pol, dir);
2741         err = copy_to_user_tmpl(xp, skb);
2742         if (!err)
2743                 err = copy_to_user_sec_ctx(xp, skb);
2744         if (!err)
2745                 err = copy_to_user_policy_type(xp->type, skb);
2746         if (!err)
2747                 err = xfrm_mark_put(skb, &xp->mark);
2748         if (err) {
2749                 nlmsg_cancel(skb, nlh);
2750                 return err;
2751         }
2752         upe->hard = !!hard;
2753
2754         return nlmsg_end(skb, nlh);
2755 }
2756
2757 static int xfrm_exp_policy_notify(struct xfrm_policy *xp, int dir, const struct km_event *c)
2758 {
2759         struct net *net = xp_net(xp);
2760         struct sk_buff *skb;
2761
2762         skb = nlmsg_new(xfrm_polexpire_msgsize(xp), GFP_ATOMIC);
2763         if (skb == NULL)
2764                 return -ENOMEM;
2765
2766         if (build_polexpire(skb, xp, dir, c) < 0)
2767                 BUG();
2768
2769         return xfrm_nlmsg_multicast(net, skb, 0, XFRMNLGRP_EXPIRE);
2770 }
2771
2772 static int xfrm_notify_policy(struct xfrm_policy *xp, int dir, const struct km_event *c)
2773 {
2774         int len = nla_total_size(sizeof(struct xfrm_user_tmpl) * xp->xfrm_nr);
2775         struct net *net = xp_net(xp);
2776         struct xfrm_userpolicy_info *p;
2777         struct xfrm_userpolicy_id *id;
2778         struct nlmsghdr *nlh;
2779         struct sk_buff *skb;
2780         int headlen, err;
2781
2782         headlen = sizeof(*p);
2783         if (c->event == XFRM_MSG_DELPOLICY) {
2784                 len += nla_total_size(headlen);
2785                 headlen = sizeof(*id);
2786         }
2787         len += userpolicy_type_attrsize();
2788         len += nla_total_size(sizeof(struct xfrm_mark));
2789         len += NLMSG_ALIGN(headlen);
2790
2791         skb = nlmsg_new(len, GFP_ATOMIC);
2792         if (skb == NULL)
2793                 return -ENOMEM;
2794
2795         nlh = nlmsg_put(skb, c->portid, c->seq, c->event, headlen, 0);
2796         err = -EMSGSIZE;
2797         if (nlh == NULL)
2798                 goto out_free_skb;
2799
2800         p = nlmsg_data(nlh);
2801         if (c->event == XFRM_MSG_DELPOLICY) {
2802                 struct nlattr *attr;
2803
2804                 id = nlmsg_data(nlh);
2805                 memset(id, 0, sizeof(*id));
2806                 id->dir = dir;
2807                 if (c->data.byid)
2808                         id->index = xp->index;
2809                 else
2810                         memcpy(&id->sel, &xp->selector, sizeof(id->sel));
2811
2812                 attr = nla_reserve(skb, XFRMA_POLICY, sizeof(*p));
2813                 err = -EMSGSIZE;
2814                 if (attr == NULL)
2815                         goto out_free_skb;
2816
2817                 p = nla_data(attr);
2818         }
2819
2820         copy_to_user_policy(xp, p, dir);
2821         err = copy_to_user_tmpl(xp, skb);
2822         if (!err)
2823                 err = copy_to_user_policy_type(xp->type, skb);
2824         if (!err)
2825                 err = xfrm_mark_put(skb, &xp->mark);
2826         if (err)
2827                 goto out_free_skb;
2828
2829         nlmsg_end(skb, nlh);
2830
2831         return xfrm_nlmsg_multicast(net, skb, 0, XFRMNLGRP_POLICY);
2832
2833 out_free_skb:
2834         kfree_skb(skb);
2835         return err;
2836 }
2837
2838 static int xfrm_notify_policy_flush(const struct km_event *c)
2839 {
2840         struct net *net = c->net;
2841         struct nlmsghdr *nlh;
2842         struct sk_buff *skb;
2843         int err;
2844
2845         skb = nlmsg_new(userpolicy_type_attrsize(), GFP_ATOMIC);
2846         if (skb == NULL)
2847                 return -ENOMEM;
2848
2849         nlh = nlmsg_put(skb, c->portid, c->seq, XFRM_MSG_FLUSHPOLICY, 0, 0);
2850         err = -EMSGSIZE;
2851         if (nlh == NULL)
2852                 goto out_free_skb;
2853         err = copy_to_user_policy_type(c->data.type, skb);
2854         if (err)
2855                 goto out_free_skb;
2856
2857         nlmsg_end(skb, nlh);
2858
2859         return xfrm_nlmsg_multicast(net, skb, 0, XFRMNLGRP_POLICY);
2860
2861 out_free_skb:
2862         kfree_skb(skb);
2863         return err;
2864 }
2865
2866 static int xfrm_send_policy_notify(struct xfrm_policy *xp, int dir, const struct km_event *c)
2867 {
2868
2869         switch (c->event) {
2870         case XFRM_MSG_NEWPOLICY:
2871         case XFRM_MSG_UPDPOLICY:
2872         case XFRM_MSG_DELPOLICY:
2873                 return xfrm_notify_policy(xp, dir, c);
2874         case XFRM_MSG_FLUSHPOLICY:
2875                 return xfrm_notify_policy_flush(c);
2876         case XFRM_MSG_POLEXPIRE:
2877                 return xfrm_exp_policy_notify(xp, dir, c);
2878         default:
2879                 printk(KERN_NOTICE "xfrm_user: Unknown Policy event %d\n",
2880                        c->event);
2881         }
2882
2883         return 0;
2884
2885 }
2886
2887 static inline size_t xfrm_report_msgsize(void)
2888 {
2889         return NLMSG_ALIGN(sizeof(struct xfrm_user_report));
2890 }
2891
2892 static int build_report(struct sk_buff *skb, u8 proto,
2893                         struct xfrm_selector *sel, xfrm_address_t *addr)
2894 {
2895         struct xfrm_user_report *ur;
2896         struct nlmsghdr *nlh;
2897
2898         nlh = nlmsg_put(skb, 0, 0, XFRM_MSG_REPORT, sizeof(*ur), 0);
2899         if (nlh == NULL)
2900                 return -EMSGSIZE;
2901
2902         ur = nlmsg_data(nlh);
2903         ur->proto = proto;
2904         memcpy(&ur->sel, sel, sizeof(ur->sel));
2905
2906         if (addr) {
2907                 int err = nla_put(skb, XFRMA_COADDR, sizeof(*addr), addr);
2908                 if (err) {
2909                         nlmsg_cancel(skb, nlh);
2910                         return err;
2911                 }
2912         }
2913         return nlmsg_end(skb, nlh);
2914 }
2915
2916 static int xfrm_send_report(struct net *net, u8 proto,
2917                             struct xfrm_selector *sel, xfrm_address_t *addr)
2918 {
2919         struct sk_buff *skb;
2920
2921         skb = nlmsg_new(xfrm_report_msgsize(), GFP_ATOMIC);
2922         if (skb == NULL)
2923                 return -ENOMEM;
2924
2925         if (build_report(skb, proto, sel, addr) < 0)
2926                 BUG();
2927
2928         return xfrm_nlmsg_multicast(net, skb, 0, XFRMNLGRP_REPORT);
2929 }
2930
2931 static inline size_t xfrm_mapping_msgsize(void)
2932 {
2933         return NLMSG_ALIGN(sizeof(struct xfrm_user_mapping));
2934 }
2935
2936 static int build_mapping(struct sk_buff *skb, struct xfrm_state *x,
2937                          xfrm_address_t *new_saddr, __be16 new_sport)
2938 {
2939         struct xfrm_user_mapping *um;
2940         struct nlmsghdr *nlh;
2941
2942         nlh = nlmsg_put(skb, 0, 0, XFRM_MSG_MAPPING, sizeof(*um), 0);
2943         if (nlh == NULL)
2944                 return -EMSGSIZE;
2945
2946         um = nlmsg_data(nlh);
2947
2948         memcpy(&um->id.daddr, &x->id.daddr, sizeof(um->id.daddr));
2949         um->id.spi = x->id.spi;
2950         um->id.family = x->props.family;
2951         um->id.proto = x->id.proto;
2952         memcpy(&um->new_saddr, new_saddr, sizeof(um->new_saddr));
2953         memcpy(&um->old_saddr, &x->props.saddr, sizeof(um->old_saddr));
2954         um->new_sport = new_sport;
2955         um->old_sport = x->encap->encap_sport;
2956         um->reqid = x->props.reqid;
2957
2958         return nlmsg_end(skb, nlh);
2959 }
2960
2961 static int xfrm_send_mapping(struct xfrm_state *x, xfrm_address_t *ipaddr,
2962                              __be16 sport)
2963 {
2964         struct net *net = xs_net(x);
2965         struct sk_buff *skb;
2966
2967         if (x->id.proto != IPPROTO_ESP)
2968                 return -EINVAL;
2969
2970         if (!x->encap)
2971                 return -EINVAL;
2972
2973         skb = nlmsg_new(xfrm_mapping_msgsize(), GFP_ATOMIC);
2974         if (skb == NULL)
2975                 return -ENOMEM;
2976
2977         if (build_mapping(skb, x, ipaddr, sport) < 0)
2978                 BUG();
2979
2980         return xfrm_nlmsg_multicast(net, skb, 0, XFRMNLGRP_MAPPING);
2981 }
2982
2983 static bool xfrm_is_alive(const struct km_event *c)
2984 {
2985         return (bool)xfrm_acquire_is_on(c->net);
2986 }
2987
2988 static struct xfrm_mgr netlink_mgr = {
2989         .id             = "netlink",
2990         .notify         = xfrm_send_state_notify,
2991         .acquire        = xfrm_send_acquire,
2992         .compile_policy = xfrm_compile_policy,
2993         .notify_policy  = xfrm_send_policy_notify,
2994         .report         = xfrm_send_report,
2995         .migrate        = xfrm_send_migrate,
2996         .new_mapping    = xfrm_send_mapping,
2997         .is_alive       = xfrm_is_alive,
2998 };
2999
3000 static int __net_init xfrm_user_net_init(struct net *net)
3001 {
3002         struct sock *nlsk;
3003         struct netlink_kernel_cfg cfg = {
3004                 .groups = XFRMNLGRP_MAX,
3005                 .input  = xfrm_netlink_rcv,
3006         };
3007
3008         nlsk = netlink_kernel_create(net, NETLINK_XFRM, &cfg);
3009         if (nlsk == NULL)
3010                 return -ENOMEM;
3011         net->xfrm.nlsk_stash = nlsk; /* Don't set to NULL */
3012         rcu_assign_pointer(net->xfrm.nlsk, nlsk);
3013         return 0;
3014 }
3015
3016 static void __net_exit xfrm_user_net_exit(struct list_head *net_exit_list)
3017 {
3018         struct net *net;
3019         list_for_each_entry(net, net_exit_list, exit_list)
3020                 RCU_INIT_POINTER(net->xfrm.nlsk, NULL);
3021         synchronize_net();
3022         list_for_each_entry(net, net_exit_list, exit_list)
3023                 netlink_kernel_release(net->xfrm.nlsk_stash);
3024 }
3025
3026 static struct pernet_operations xfrm_user_net_ops = {
3027         .init       = xfrm_user_net_init,
3028         .exit_batch = xfrm_user_net_exit,
3029 };
3030
3031 static int __init xfrm_user_init(void)
3032 {
3033         int rv;
3034
3035         printk(KERN_INFO "Initializing XFRM netlink socket\n");
3036
3037         rv = register_pernet_subsys(&xfrm_user_net_ops);
3038         if (rv < 0)
3039                 return rv;
3040         rv = xfrm_register_km(&netlink_mgr);
3041         if (rv < 0)
3042                 unregister_pernet_subsys(&xfrm_user_net_ops);
3043         return rv;
3044 }
3045
3046 static void __exit xfrm_user_exit(void)
3047 {
3048         xfrm_unregister_km(&netlink_mgr);
3049         unregister_pernet_subsys(&xfrm_user_net_ops);
3050 }
3051
3052 module_init(xfrm_user_init);
3053 module_exit(xfrm_user_exit);
3054 MODULE_LICENSE("GPL");
3055 MODULE_ALIAS_NET_PF_PROTO(PF_NETLINK, NETLINK_XFRM);
3056