linux rx pmtu fixes
[openafs.git] / src / rx / rx_user.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  * 
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  */
9
10 /* rx_user.c contains routines specific to the user space UNIX implementation of rx */
11
12 /* rxi_syscall is currently not prototyped */
13
14 #include <afsconfig.h>
15 #include <afs/param.h>
16
17
18 # include <sys/types.h>
19 # include <errno.h>
20 # include <signal.h>
21 # include <string.h>
22 #ifdef AFS_NT40_ENV
23 # include <WINNT/syscfg.h>
24 #else
25 # include <sys/socket.h>
26 # include <sys/file.h>
27 # include <netdb.h>
28 # include <sys/stat.h>
29 # include <netinet/in.h>
30 # include <sys/time.h>
31 # include <net/if.h>
32 # include <sys/ioctl.h>
33 # include <unistd.h>
34 #endif
35 # include <fcntl.h>
36 #if !defined(AFS_AIX_ENV) && !defined(AFS_NT40_ENV) 
37 # include <sys/syscall.h>
38 #endif
39 #include <afs/afs_args.h>
40 #include <afs/afsutil.h>
41
42 #ifndef IPPORT_USERRESERVED
43 /* If in.h doesn't define this, define it anyway.  Unfortunately, defining
44    this doesn't put the code into the kernel to restrict kernel assigned
45    port numbers to numbers below IPPORT_USERRESERVED...  */
46 #define IPPORT_USERRESERVED 5000
47 # endif
48
49 #if defined(HAVE_LINUX_ERRQUEUE_H) && defined(ADAPT_PMTU)
50 #include <linux/types.h>
51 #include <linux/errqueue.h>
52 #ifndef IP_MTU
53 #define IP_MTU 14
54 #endif
55 #endif
56
57 #ifndef AFS_NT40_ENV
58 # include <sys/time.h>
59 #endif
60 # include "rx.h"
61 # include "rx_globals.h"
62
63 #ifdef AFS_PTHREAD_ENV
64 #include <assert.h>
65
66 /*
67  * The rx_if_init_mutex mutex protects the following global variables:
68  * Inited
69  */
70
71 afs_kmutex_t rx_if_init_mutex;
72 #define LOCK_IF_INIT MUTEX_ENTER(&rx_if_init_mutex)
73 #define UNLOCK_IF_INIT MUTEX_EXIT(&rx_if_init_mutex)
74
75 /*
76  * The rx_if_mutex mutex protects the following global variables:
77  * myNetFlags
78  * myNetMTUs
79  * myNetMasks
80  */
81
82 afs_kmutex_t rx_if_mutex;
83 #define LOCK_IF MUTEX_ENTER(&rx_if_mutex)
84 #define UNLOCK_IF MUTEX_EXIT(&rx_if_mutex)
85 #else
86 #define LOCK_IF_INIT
87 #define UNLOCK_IF_INIT
88 #define LOCK_IF
89 #define UNLOCK_IF
90 #endif /* AFS_PTHREAD_ENV */
91
92
93 /*
94  * Make a socket for receiving/sending IP packets.  Set it into non-blocking
95  * and large buffering modes.  If port isn't specified, the kernel will pick
96  * one.  Returns the socket (>= 0) on success.  Returns OSI_NULLSOCKET on
97  * failure. Port must be in network byte order. 
98  */
99 osi_socket
100 rxi_GetHostUDPSocket(u_int ahost, u_short port)
101 {
102     int binds, code = 0;
103     osi_socket socketFd = OSI_NULLSOCKET;
104     struct sockaddr_in taddr;
105     char *name = "rxi_GetUDPSocket: ";
106 #ifdef AFS_LINUX22_ENV
107 #if defined(ADAPT_PMTU)
108     int pmtu=IP_PMTUDISC_WANT;
109     int recverr=1;
110 #else
111     int pmtu=IP_PMTUDISC_DONT;
112 #endif
113 #endif
114
115 #if !defined(AFS_NT40_ENV) 
116     if (ntohs(port) >= IPPORT_RESERVED && ntohs(port) < IPPORT_USERRESERVED) {
117 /*      (osi_Msg "%s*WARNING* port number %d is not a reserved port number.  Use port numbers above %d\n", name, port, IPPORT_USERRESERVED);
118 */ ;
119     }
120     if (ntohs(port) > 0 && ntohs(port) < IPPORT_RESERVED && geteuid() != 0) {
121         (osi_Msg
122          "%sport number %d is a reserved port number which may only be used by root.  Use port numbers above %d\n",
123          name, ntohs(port), IPPORT_USERRESERVED);
124         goto error;
125     }
126 #endif
127     socketFd = socket(AF_INET, SOCK_DGRAM, 0);
128
129     if (socketFd < 0) {
130         perror("socket");
131         goto error;
132     }
133
134 #ifdef AFS_NT40_ENV
135     rxi_xmit_init(socketFd);
136 #endif /* AFS_NT40_ENV */
137
138     taddr.sin_addr.s_addr = ahost;
139     taddr.sin_family = AF_INET;
140     taddr.sin_port = (u_short) port;
141 #ifdef STRUCT_SOCKADDR_HAS_SA_LEN
142     taddr.sin_len = sizeof(struct sockaddr_in);
143 #endif
144 #define MAX_RX_BINDS 10
145     for (binds = 0; binds < MAX_RX_BINDS; binds++) {
146         if (binds)
147             rxi_Delay(10);
148         code = bind(socketFd, (struct sockaddr *)&taddr, sizeof(taddr));
149         if (!code)
150             break;
151     }
152     if (code) {
153         perror("bind");
154         (osi_Msg "%sbind failed\n", name);
155         goto error;
156     }
157 #if !defined(AFS_NT40_ENV) 
158     /*
159      * Set close-on-exec on rx socket 
160      */
161     fcntl(socketFd, F_SETFD, 1);
162 #endif
163
164     /* Use one of three different ways of getting a socket buffer expanded to
165      * a reasonable size.
166      */
167     {
168         int greedy = 0;
169         int len1, len2;
170
171         len1 = 32766;
172         len2 = rx_UdpBufSize;
173
174         /* find the size closest to rx_UdpBufSize that will be accepted */
175         while (!greedy && len2 > len1) {
176             greedy =
177                 (setsockopt
178                   (socketFd, SOL_SOCKET, SO_RCVBUF, (char *)&len2,
179                    sizeof(len2)) >= 0);
180             if (!greedy)
181                 len2 /= 2;
182         }
183
184         /* but do not let it get smaller than 32K */ 
185         if (len2 < len1)
186             len2 = len1;
187
188         if (len1 < len2)
189             len1 = len2;
190
191
192         greedy =
193             (setsockopt
194              (socketFd, SOL_SOCKET, SO_SNDBUF, (char *)&len1,
195               sizeof(len1)) >= 0)
196             &&
197             (setsockopt
198              (socketFd, SOL_SOCKET, SO_RCVBUF, (char *)&len2,
199               sizeof(len2)) >= 0);
200         if (!greedy)
201             (osi_Msg "%s*WARNING* Unable to increase buffering on socket\n",
202              name);
203         if (rx_stats_active) {
204             MUTEX_ENTER(&rx_stats_mutex);
205             rx_stats.socketGreedy = greedy;
206             MUTEX_EXIT(&rx_stats_mutex);
207         }
208     }
209
210 #ifdef AFS_LINUX22_ENV
211     setsockopt(socketFd, SOL_IP, IP_MTU_DISCOVER, &pmtu, sizeof(pmtu));
212 #if defined(ADAPT_PMTU)
213     setsockopt(socketFd, SOL_IP, IP_RECVERR, &recverr, sizeof(recverr));
214 #endif
215 #endif
216     if (rxi_Listen(socketFd) < 0) {
217         goto error;
218     }
219
220     return socketFd;
221
222   error:
223 #ifdef AFS_NT40_ENV
224     if (socketFd >= 0)
225         closesocket(socketFd);
226 #else
227     if (socketFd >= 0)
228         close(socketFd);
229 #endif
230
231     return OSI_NULLSOCKET;
232 }
233
234 osi_socket
235 rxi_GetUDPSocket(u_short port)
236 {
237     return rxi_GetHostUDPSocket(htonl(INADDR_ANY), port);
238 }
239
240 void
241 osi_Panic(char *msg, ...)
242 {
243     va_list ap;
244     va_start(ap, msg);
245     (osi_Msg "Fatal Rx error: ");
246     (osi_VMsg msg, ap);
247     va_end(ap);
248     fflush(stderr);
249     fflush(stdout);
250     afs_abort();
251 }
252
253 /*
254  * osi_AssertFailU() -- used by the osi_Assert() macro.
255  */
256
257 void
258 osi_AssertFailU(const char *expr, const char *file, int line)
259 {
260     osi_Panic("assertion failed: %s, file: %s, line: %d\n", expr,
261               file, line);
262 }
263
264 #if defined(AFS_AIX32_ENV) && !defined(KERNEL)
265 #ifndef osi_Alloc
266 static const char memZero;
267 void *
268 osi_Alloc(afs_int32 x)
269 {
270     /* 
271      * 0-length allocs may return NULL ptr from malloc, so we special-case
272      * things so that NULL returned iff an error occurred 
273      */
274     if (x == 0)
275         return (void *)&memZero;
276     return(malloc(x));
277 }
278
279 void
280 osi_Free(void *x, afs_int32 size)
281 {
282     if (x == &memZero)
283         return;
284     free(x);
285 }
286 #endif
287 #endif /* defined(AFS_AIX32_ENV) && !defined(KERNEL) */
288
289 #define ADDRSPERSITE    16
290
291
292 static afs_uint32 rxi_NetAddrs[ADDRSPERSITE];   /* host order */
293 static int myNetMTUs[ADDRSPERSITE];
294 static int myNetMasks[ADDRSPERSITE];
295 static int myNetFlags[ADDRSPERSITE];
296 static u_int rxi_numNetAddrs;
297 static int Inited = 0;
298
299 #if defined(AFS_NT40_ENV) 
300 int
301 rxi_getaddr(void)
302 {
303     /* The IP address list can change so we must query for it */
304     rx_GetIFInfo();
305
306     /* we don't want to use the loopback adapter which is first */
307     /* this is a bad bad hack */
308     if (rxi_numNetAddrs > 1)
309         return htonl(rxi_NetAddrs[1]);  
310     else if (rxi_numNetAddrs > 0)
311         return htonl(rxi_NetAddrs[0]);
312     else
313         return 0;
314 }
315
316 /* 
317 ** return number of addresses 
318 ** and the addresses themselves in the buffer
319 ** maxSize - max number of interfaces to return.
320 */
321 int
322 rx_getAllAddr(afs_uint32 * buffer, int maxSize)
323 {
324     int count = 0, offset = 0;
325
326     /* The IP address list can change so we must query for it */
327     rx_GetIFInfo();
328
329     for (count = 0; offset < rxi_numNetAddrs && maxSize > 0;
330          count++, offset++, maxSize--)
331         buffer[count] = htonl(rxi_NetAddrs[offset]);
332
333     return count;
334 }
335
336 /* this function returns the total number of interface addresses
337  * the buffer has to be passed in by the caller. It also returns
338  * the matching interface mask and mtu.  All values are returned
339  * in network byte order.
340  */
341 int
342 rx_getAllAddrMaskMtu(afs_uint32 addrBuffer[], afs_uint32 maskBuffer[],
343                      afs_uint32 mtuBuffer[], int maxSize)
344 {
345     int count = 0, offset = 0;
346
347     /* The IP address list can change so we must query for it */
348     rx_GetIFInfo();
349
350     for (count = 0; 
351          offset < rxi_numNetAddrs && maxSize > 0;
352          count++, offset++, maxSize--) {
353         addrBuffer[count] = htonl(rxi_NetAddrs[offset]);
354         maskBuffer[count] = htonl(myNetMasks[offset]);
355         mtuBuffer[count]  = htonl(myNetMTUs[offset]);
356     }
357     return count;
358 }
359 #endif
360
361 #ifdef AFS_NT40_ENV
362 extern int rxinit_status;
363 void 
364 rxi_InitMorePackets(void) {
365     int npackets, ncbufs;
366
367     ncbufs = (rx_maxJumboRecvSize - RX_FIRSTBUFFERSIZE);
368     if (ncbufs > 0) {
369         ncbufs = ncbufs / RX_CBUFFERSIZE;
370         npackets = rx_initSendWindow - 1;
371         rxi_MorePackets(npackets * (ncbufs + 1));
372     }
373 }
374 void
375 rx_GetIFInfo(void)
376 {
377     u_int maxsize;
378     u_int rxsize;
379     afs_uint32 i;
380
381     LOCK_IF_INIT;
382     if (Inited) {
383         if (Inited < 2 && rxinit_status == 0) {
384             /* We couldn't initialize more packets earlier.
385              * Do it now. */
386             rxi_InitMorePackets();
387             Inited = 2;
388         }
389         UNLOCK_IF_INIT;
390         return;
391     }
392     Inited = 1;
393     UNLOCK_IF_INIT;
394
395     LOCK_IF;
396     rxi_numNetAddrs = ADDRSPERSITE;
397     (void)syscfg_GetIFInfo(&rxi_numNetAddrs, rxi_NetAddrs,
398                            myNetMasks, myNetMTUs, myNetFlags);
399
400     for (i = 0; i < rxi_numNetAddrs; i++) {
401         rxsize = rxi_AdjustIfMTU(myNetMTUs[i] - RX_IPUDP_SIZE);
402         maxsize =
403             rxi_nRecvFrags * rxsize + (rxi_nRecvFrags - 1) * UDP_HDR_SIZE;
404         maxsize = rxi_AdjustMaxMTU(rxsize, maxsize);
405         if (rx_maxReceiveSize > maxsize) {
406             rx_maxReceiveSize = MIN(RX_MAX_PACKET_SIZE, maxsize);
407             rx_maxReceiveSize =
408                 MIN(rx_maxReceiveSize, rx_maxReceiveSizeUser);
409         }
410         if (rx_MyMaxSendSize > maxsize) {
411             rx_MyMaxSendSize = MIN(RX_MAX_PACKET_SIZE, maxsize);
412         }
413     }
414     UNLOCK_IF;
415
416     /*
417      * If rxinit_status is still set, rx_InitHost() has yet to be called
418      * and we therefore do not have any mutex locks initialized.  As a
419      * result we cannot call rxi_MorePackets() without crashing.
420      */
421     if (rxinit_status)
422         return;
423
424     rxi_InitMorePackets();
425 }
426 #endif
427
428 static afs_uint32
429 fudge_netmask(afs_uint32 addr)
430 {
431     afs_uint32 msk;
432
433     if (IN_CLASSA(addr))
434         msk = IN_CLASSA_NET;
435     else if (IN_CLASSB(addr))
436         msk = IN_CLASSB_NET;
437     else if (IN_CLASSC(addr))
438         msk = IN_CLASSC_NET;
439     else
440         msk = 0;
441
442     return msk;
443 }
444
445
446
447 #if !defined(AFS_AIX_ENV) && !defined(AFS_NT40_ENV) && !defined(AFS_LINUX20_ENV) 
448 int
449 rxi_syscall(afs_uint32 a3, afs_uint32 a4, void *a5)
450 {
451     afs_uint32 rcode;
452     void (*old) (int);
453
454     old = signal(SIGSYS, SIG_IGN);
455
456 #if defined(AFS_SGI_ENV)
457     rcode = afs_syscall(AFS_SYSCALL, 28, a3, a4, a5);
458 #else
459     rcode = syscall(AFS_SYSCALL, 28 /* AFSCALL_CALL */ , a3, a4, a5);
460 #endif /* AFS_SGI_ENV */
461
462     signal(SIGSYS, old);
463
464     return rcode;
465 }
466 #endif /* AFS_AIX_ENV */
467
468 #ifndef AFS_NT40_ENV
469 void
470 rx_GetIFInfo(void)
471 {
472     int s;
473     int i, j, len, res;
474     struct ifconf ifc;
475     struct ifreq ifs[ADDRSPERSITE];
476     struct ifreq *ifr;
477 #ifdef  AFS_AIX41_ENV
478     char buf[BUFSIZ], *cp, *cplim;
479 #endif
480     struct sockaddr_in *a;
481
482     LOCK_IF_INIT;
483     if (Inited) {
484         UNLOCK_IF_INIT;
485         return;
486     }
487     Inited = 1;
488     UNLOCK_IF_INIT;
489     LOCK_IF;
490     rxi_numNetAddrs = 0;
491     memset(rxi_NetAddrs, 0, sizeof(rxi_NetAddrs));
492     memset(myNetFlags, 0, sizeof(myNetFlags));
493     memset(myNetMTUs, 0, sizeof(myNetMTUs));
494     memset(myNetMasks, 0, sizeof(myNetMasks));
495     UNLOCK_IF;
496     s = socket(AF_INET, SOCK_DGRAM, 0);
497     if (s < 0)
498         return;
499
500 #ifdef  AFS_AIX41_ENV
501     ifc.ifc_len = sizeof(buf);
502     ifc.ifc_buf = buf;
503     ifr = ifc.ifc_req;
504 #else
505     ifc.ifc_len = sizeof(ifs);
506     ifc.ifc_buf = (caddr_t) & ifs[0];
507     memset(&ifs[0], 0, sizeof(ifs));
508 #endif
509     res = ioctl(s, SIOCGIFCONF, &ifc);
510     if (res < 0) {
511         /* fputs(stderr, "ioctl error IFCONF\n"); */
512         close(s);
513         return;
514     }
515
516     LOCK_IF;
517 #ifdef  AFS_AIX41_ENV
518 #define size(p) MAX((p).sa_len, sizeof(p))
519     cplim = buf + ifc.ifc_len;  /*skip over if's with big ifr_addr's */
520     for (cp = buf; cp < cplim;
521          cp += sizeof(ifr->ifr_name) + MAX(a->sin_len, sizeof(*a))) {
522         if (rxi_numNetAddrs >= ADDRSPERSITE)
523             break;
524
525         ifr = (struct ifreq *)cp;
526 #else
527     len = ifc.ifc_len / sizeof(struct ifreq);
528     if (len > ADDRSPERSITE)
529         len = ADDRSPERSITE;
530
531     for (i = 0; i < len; ++i) {
532         ifr = &ifs[i];
533         res = ioctl(s, SIOCGIFADDR, ifr);
534 #endif
535         if (res < 0) {
536             /* fputs(stderr, "ioctl error IFADDR\n");
537              * perror(ifr->ifr_name);   */
538             continue;
539         }
540         a = (struct sockaddr_in *)&ifr->ifr_addr;
541         if (a->sin_family != AF_INET)
542             continue;
543         rxi_NetAddrs[rxi_numNetAddrs] = ntohl(a->sin_addr.s_addr);
544         if (rx_IsLoopbackAddr(rxi_NetAddrs[rxi_numNetAddrs])) {
545             /* we don't really care about "localhost" */
546             continue;
547         }
548         for (j = 0; j < rxi_numNetAddrs; j++) {
549             if (rxi_NetAddrs[j] == rxi_NetAddrs[rxi_numNetAddrs])
550                 break;
551         }
552         if (j < rxi_numNetAddrs)
553             continue;
554
555         /* fprintf(stderr, "if %s addr=%x\n", ifr->ifr_name,
556          * rxi_NetAddrs[rxi_numNetAddrs]); */
557
558 #ifdef SIOCGIFFLAGS
559         res = ioctl(s, SIOCGIFFLAGS, ifr);
560         if (res == 0) {
561             myNetFlags[rxi_numNetAddrs] = ifr->ifr_flags;
562 #ifdef IFF_LOOPBACK
563             /* Handle aliased loopbacks as well. */
564             if (ifr->ifr_flags & IFF_LOOPBACK)
565                 continue;
566 #endif
567             /* fprintf(stderr, "if %s flags=%x\n", 
568              * ifr->ifr_name, ifr->ifr_flags); */
569         } else {                /*
570                                  * fputs(stderr, "ioctl error IFFLAGS\n");
571                                  * perror(ifr->ifr_name); */
572         }
573 #endif /* SIOCGIFFLAGS */
574
575 #if !defined(AFS_AIX_ENV)  && !defined(AFS_LINUX20_ENV)
576         /* this won't run on an AIX system w/o a cache manager */
577         rxi_syscallp = rxi_syscall;
578 #endif
579
580         /* If I refer to kernel extensions that aren't loaded on AIX, the 
581          * program refuses to load and run, so I simply can't include the 
582          * following code.  Fortunately, AIX is the one operating system in
583          * which the subsequent ioctl works reliably. */
584         if (rxi_syscallp) {
585             if ((*rxi_syscallp) (20 /*AFSOP_GETMTU */ ,
586                                  htonl(rxi_NetAddrs[rxi_numNetAddrs]),
587                                  &(myNetMTUs[rxi_numNetAddrs]))) {
588                 /* fputs(stderr, "syscall error GETMTU\n");
589                  * perror(ifr->ifr_name); */
590                 myNetMTUs[rxi_numNetAddrs] = 0;
591             }
592             if ((*rxi_syscallp) (42 /*AFSOP_GETMASK */ ,
593                                  htonl(rxi_NetAddrs[rxi_numNetAddrs]),
594                                  &(myNetMasks[rxi_numNetAddrs]))) {
595                 /* fputs(stderr, "syscall error GETMASK\n");
596                  * perror(ifr->ifr_name); */
597                 myNetMasks[rxi_numNetAddrs] = 0;
598             } else
599                 myNetMasks[rxi_numNetAddrs] =
600                     ntohl(myNetMasks[rxi_numNetAddrs]);
601             /* fprintf(stderr, "if %s mask=0x%x\n", 
602              * ifr->ifr_name, myNetMasks[rxi_numNetAddrs]); */
603         }
604
605         if (myNetMTUs[rxi_numNetAddrs] == 0) {
606             myNetMTUs[rxi_numNetAddrs] = OLD_MAX_PACKET_SIZE + RX_IPUDP_SIZE;
607 #ifdef SIOCGIFMTU
608             res = ioctl(s, SIOCGIFMTU, ifr);
609             if ((res == 0) && (ifr->ifr_metric > 128)) {        /* sanity check */
610                 myNetMTUs[rxi_numNetAddrs] = ifr->ifr_metric;
611                 /* fprintf(stderr, "if %s mtu=%d\n", 
612                  * ifr->ifr_name, ifr->ifr_metric); */
613             } else {
614                 /* fputs(stderr, "ioctl error IFMTU\n");
615                  * perror(ifr->ifr_name); */
616             }
617 #endif
618         }
619
620         if (myNetMasks[rxi_numNetAddrs] == 0) {
621             myNetMasks[rxi_numNetAddrs] =
622                 fudge_netmask(rxi_NetAddrs[rxi_numNetAddrs]);
623 #ifdef SIOCGIFNETMASK
624             res = ioctl(s, SIOCGIFNETMASK, ifr);
625             if ((res == 0)) {
626                 a = (struct sockaddr_in *)&ifr->ifr_addr;
627                 myNetMasks[rxi_numNetAddrs] = ntohl(a->sin_addr.s_addr);
628                 /* fprintf(stderr, "if %s subnetmask=0x%x\n", 
629                  * ifr->ifr_name, myNetMasks[rxi_numNetAddrs]); */
630             } else {
631                 /* fputs(stderr, "ioctl error IFMASK\n");
632                  * perror(ifr->ifr_name); */
633             }
634 #endif
635         }
636
637         if (!rx_IsLoopbackAddr(rxi_NetAddrs[rxi_numNetAddrs])) {        /* ignore lo0 */
638             int maxsize;
639             maxsize =
640                 rxi_nRecvFrags * (myNetMTUs[rxi_numNetAddrs] - RX_IP_SIZE);
641             maxsize -= UDP_HDR_SIZE;    /* only the first frag has a UDP hdr */
642             if (rx_maxReceiveSize < maxsize)
643                 rx_maxReceiveSize = MIN(RX_MAX_PACKET_SIZE, maxsize);
644             ++rxi_numNetAddrs;
645         }
646     }
647     UNLOCK_IF;
648     close(s);
649
650     /* have to allocate at least enough to allow a single packet to reach its
651      * maximum size, so ReadPacket will work.  Allocate enough for a couple
652      * of packets to do so, for good measure */
653     {
654         int npackets, ncbufs;
655
656         rx_maxJumboRecvSize =
657             RX_HEADER_SIZE + rxi_nDgramPackets * RX_JUMBOBUFFERSIZE +
658             (rxi_nDgramPackets - 1) * RX_JUMBOHEADERSIZE;
659         rx_maxJumboRecvSize = MAX(rx_maxJumboRecvSize, rx_maxReceiveSize);
660         ncbufs = (rx_maxJumboRecvSize - RX_FIRSTBUFFERSIZE);
661         if (ncbufs > 0) {
662             ncbufs = ncbufs / RX_CBUFFERSIZE;
663             npackets = rx_initSendWindow - 1;
664             rxi_MorePackets(npackets * (ncbufs + 1));
665         }
666     }
667 }
668 #endif /* AFS_NT40_ENV */
669
670 /* Called from rxi_FindPeer, when initializing a clear rx_peer structure,
671  * to get interesting information.
672  * Curiously enough, the rx_peerHashTable_lock currently protects the
673  * Inited variable (and hence rx_GetIFInfo). When the fs suite uses
674  * pthreads, this issue will need to be revisited.
675  */
676
677 void
678 rxi_InitPeerParams(struct rx_peer *pp)
679 {
680     afs_uint32 ppaddr;
681     u_short rxmtu;
682     int ix;
683 #if defined(ADAPT_PMTU) && defined(IP_MTU)
684     int sock;
685     struct sockaddr_in addr;
686 #endif
687
688
689
690     LOCK_IF_INIT;
691     if (!Inited) {
692         UNLOCK_IF_INIT;
693         /*
694          * there's a race here since more than one thread could call
695          * rx_GetIFInfo.  The race stops in rx_GetIFInfo.
696          */
697         rx_GetIFInfo();
698     } else {
699         UNLOCK_IF_INIT;
700     }
701
702 #ifdef ADAPT_MTU
703     /* try to second-guess IP, and identify which link is most likely to
704      * be used for traffic to/from this host. */
705     ppaddr = ntohl(pp->host);
706
707     pp->ifMTU = 0;
708     pp->timeout.sec = 2;
709     pp->rateFlag = 2;           /* start timing after two full packets */
710     /* I don't initialize these, because I presume they are bzero'd... 
711      * pp->burstSize pp->burst pp->burstWait.sec pp->burstWait.usec
712      * pp->timeout.usec */
713
714     LOCK_IF;
715     for (ix = 0; ix < rxi_numNetAddrs; ++ix) {
716         if ((rxi_NetAddrs[ix] & myNetMasks[ix]) == (ppaddr & myNetMasks[ix])) {
717 #ifdef IFF_POINTOPOINT
718             if (myNetFlags[ix] & IFF_POINTOPOINT)
719                 pp->timeout.sec = 4;
720 #endif /* IFF_POINTOPOINT */
721             rxmtu = myNetMTUs[ix] - RX_IPUDP_SIZE;
722             if (rxmtu < RX_MIN_PACKET_SIZE)
723                 rxmtu = RX_MIN_PACKET_SIZE;
724             if (pp->ifMTU < rxmtu)
725                 pp->ifMTU = MIN(rx_MyMaxSendSize, rxmtu);
726         }
727     }
728     UNLOCK_IF;
729     if (!pp->ifMTU) {           /* not local */
730         pp->timeout.sec = 3;
731         pp->ifMTU = MIN(rx_MyMaxSendSize, RX_REMOTE_PACKET_SIZE);
732     }
733 #else /* ADAPT_MTU */
734     pp->rateFlag = 2;           /* start timing after two full packets */
735     pp->timeout.sec = 2;
736     pp->ifMTU = MIN(rx_MyMaxSendSize, OLD_MAX_PACKET_SIZE);
737 #endif /* ADAPT_MTU */
738 #if defined(ADAPT_PMTU) && defined(IP_MTU)
739     sock=socket(PF_INET, SOCK_DGRAM, IPPROTO_UDP);
740     if (sock >= 0) {
741       addr.sin_family = AF_INET;
742       addr.sin_addr.s_addr = pp->host;
743       addr.sin_port = pp->port;
744       if (connect(sock, (struct sockaddr *)&addr, sizeof(addr)) == 0) {
745         int mtu=0;
746         socklen_t s = sizeof(mtu);
747         if (getsockopt(sock, SOL_IP, IP_MTU, &mtu, &s)== 0) {
748           pp->ifMTU = MIN(mtu - RX_IPUDP_SIZE, pp->ifMTU);
749         }
750       }
751       close(sock);
752     }
753 #endif
754     pp->ifMTU = rxi_AdjustIfMTU(pp->ifMTU);
755     pp->maxMTU = OLD_MAX_PACKET_SIZE;   /* for compatibility with old guys */
756     pp->natMTU = MIN((int)pp->ifMTU, OLD_MAX_PACKET_SIZE);
757     pp->maxDgramPackets =
758         MIN(rxi_nDgramPackets,
759             rxi_AdjustDgramPackets(rxi_nSendFrags, pp->ifMTU));
760     pp->ifDgramPackets =
761         MIN(rxi_nDgramPackets,
762             rxi_AdjustDgramPackets(rxi_nSendFrags, pp->ifMTU));
763     pp->maxDgramPackets = 1;
764     /* Initialize slow start parameters */
765     pp->MTU = MIN(pp->natMTU, pp->maxMTU);
766     pp->cwind = 1;
767     pp->nDgramPackets = 1;
768     pp->congestSeq = 0;
769 }
770
771 /* Don't expose jumobgram internals. */
772 void
773 rx_SetNoJumbo(void)
774 {
775     rx_maxReceiveSize = OLD_MAX_PACKET_SIZE;
776     rxi_nSendFrags = rxi_nRecvFrags = 1;
777 }
778
779 /* Override max MTU.  If rx_SetNoJumbo is called, it must be 
780    called before calling rx_SetMaxMTU since SetNoJumbo clobbers rx_maxReceiveSize */
781 void
782 rx_SetMaxMTU(int mtu)
783 {
784     rx_MyMaxSendSize = rx_maxReceiveSizeUser = rx_maxReceiveSize = mtu;
785 }
786
787 #if defined(ADAPT_PMTU)
788 int
789 rxi_HandleSocketError(int socket)
790 {
791     int ret=0;
792 #if defined(HAVE_LINUX_ERRQUEUE_H)
793     struct msghdr msg;
794     struct cmsghdr *cmsg;
795     struct sock_extended_err *err;
796     struct sockaddr_in addr;
797     struct sockaddr *offender;
798     char controlmsgbuf[256];
799     int code;
800
801     msg.msg_name = &addr;
802     msg.msg_namelen = sizeof(addr);
803     msg.msg_iov = NULL;
804     msg.msg_iovlen = 0;
805     msg.msg_control = controlmsgbuf;
806     msg.msg_controllen = 256;
807     msg.msg_flags = 0;
808     code = recvmsg(socket, &msg, MSG_ERRQUEUE|MSG_DONTWAIT|MSG_TRUNC);
809
810     if (code < 0 || !(msg.msg_flags & MSG_ERRQUEUE))
811         goto out;
812
813     for (cmsg = CMSG_FIRSTHDR(&msg); cmsg; cmsg = CMSG_NXTHDR(&msg, cmsg)) {
814        if ((char *)cmsg - controlmsgbuf > msg.msg_controllen - CMSG_SPACE(0) ||
815            (char *)cmsg - controlmsgbuf > msg.msg_controllen - CMSG_SPACE(cmsg->cmsg_len) ||
816            cmsg->cmsg_len == 0) {
817            cmsg = 0;
818            break;
819         }
820         if (cmsg->cmsg_level == SOL_IP && cmsg->cmsg_type == IP_RECVERR)
821             break;
822     }
823     if (!cmsg)
824         goto out;
825     ret=1;
826     err =(struct sock_extended_err *) CMSG_DATA(cmsg);
827     
828     if (err->ee_errno == EMSGSIZE && err->ee_info >= 68) {
829         rxi_SetPeerMtu(NULL, addr.sin_addr.s_addr, addr.sin_port,
830                        err->ee_info - RX_IPUDP_SIZE);
831     }
832     /* other DEST_UNREACH's and TIME_EXCEEDED should be dealt with too */
833     
834 out:
835 #endif
836     return ret;
837 }
838 #endif