Allow GetSomeSpace_r to select an optimal host
[openafs.git] / src / viced / callback.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  * 
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  *
9  * Portions Copyright (c) 2006 Sine Nomine Associates
10  */
11
12 /*
13  * NEW callback package callback.c (replaces vicecb.c)
14  * Updated call back routines, NOW with:
15  * 
16  *     Faster DeleteVenus (Now called DeleteAllCallBacks)
17  *     Call back breaking for volumes
18  *     Adaptive timeouts on call backs
19  *     Architected for Multi RPC
20  *     No locks (currently implicit vnode locks--these will go, to)
21  *     Delayed call back when rpc connection down.
22  *     Bulk break of delayed call backs when rpc connection
23  *         reestablished
24  *     Strict limit on number of call backs.
25  *
26  * InitCallBack(nblocks)
27  *     Initialize: nblocks is max number # of file entries + # of callback entries
28  *     nblocks must be < 65536
29  *     Space used is nblocks*16 bytes
30  *     Note that space will be reclaimed by breaking callbacks of old hosts
31  * 
32  * time = AddCallBack(host, fid)
33  *     Add a call back.
34  *     Returns the expiration time at the workstation.
35  * 
36  * BreakCallBack(host, fid)
37  *     Break all call backs for fid, except for the specified host.
38  *     Delete all of them.
39  * 
40  * BreakVolumeCallBacks(volume)
41  *     Break all call backs on volume, using single call to each host
42  *     Delete all the call backs.
43  * 
44  * DeleteCallBack(host,fid)
45  *     Delete (do not break) single call back for fid.
46  * 
47  * DeleteFileCallBacks(fid)
48  *     Delete (do not break) all call backs for fid.
49  *
50  * DeleteAllCallBacks(host)
51  *     Delete (do not break) all call backs for host.
52  * 
53  * CleanupTimedOutCallBacks()
54  *     Delete all timed out call back entries
55  *     Must be called periodically by file server.
56  * 
57  * BreakDelayedCallBacks(host)
58  *     Break all delayed call backs for host.
59  *     Returns 1: one or more failed, 0: success.
60  * 
61  * PrintCallBackStats()
62  *     Print statistics about call backs to stdout.
63  * 
64  * DumpCallBacks() ---wishful thinking---
65  *     Dump call back state to /tmp/callback.state.
66  *     This is separately interpretable by the program pcb.
67  *
68  * Notes:  In general, if a call back to a host doesn't get through,
69  * then HostDown, supplied elsewhere, is called.  BreakDelayedCallBacks,
70  * however, does not call HostDown, but instead returns an indication of
71  * success if all delayed call backs were finally broken.
72  *
73  * BreakDelayedCallBacks MUST be called at the first sign of activity
74  * from the host after HostDown has been called (or a previous
75  * BreakDelayedCallBacks failed). The BreakDelayedCallBacks must be
76  * allowed to complete before any requests from that host are handled.
77  * If BreakDelayedCallBacks fails, then the host should remain
78  * down (and the request should be failed).
79
80  * CleanupCallBacks MUST be called periodically by the file server for
81  * this package to work correctly.  Every 5 minutes is suggested.
82  */
83
84 #include <afsconfig.h>
85 #include <afs/param.h>
86
87
88 #include <stdio.h>
89 #include <stdlib.h>             /* for malloc() */
90 #include <time.h>               /* ANSI standard location for time stuff */
91 #include <string.h>
92 #ifdef AFS_NT40_ENV
93 #include <fcntl.h>
94 #include <io.h>
95 #else
96 #include <sys/time.h>
97 #include <sys/file.h>
98 #include <unistd.h>
99 #endif
100 #include <afs/assert.h>
101
102 #include <afs/stds.h>
103
104 #include <afs/nfs.h>            /* yuck.  This is an abomination. */
105 #include <lwp.h>
106 #include <rx/rx.h>
107 #include <afs/afscbint.h>
108 #include <afs/afsutil.h>
109 #include <lock.h>
110 #include <afs/ihandle.h>
111 #include <afs/vnode.h>
112 #include <afs/volume.h>
113 #include "viced_prototypes.h"
114 #include "viced.h"
115
116 #include <afs/ptclient.h>       /* need definition of prlist for host.h */
117 #include "host.h"
118 #include "callback.h"
119 #ifdef AFS_DEMAND_ATTACH_FS
120 #include "../tviced/serialize_state.h"
121 #endif /* AFS_DEMAND_ATTACH_FS */
122
123
124 extern afsUUID FS_HostUUID;
125 extern int hostCount;
126
127 #ifndef INTERPRET_DUMP
128 static int ShowProblems = 1;
129 #endif
130
131 struct cbcounters cbstuff;
132
133 static struct FileEntry * FE = NULL;    /* don't use FE[0] */
134 static struct CallBack * CB = NULL;     /* don't use CB[0] */
135
136 static struct CallBack * CBfree = NULL;
137 static struct FileEntry * FEfree = NULL;
138
139
140 /* Time to live for call backs depends upon number of users of the file.
141  * TimeOuts is indexed by this number/8 (using TimeOut macro).  Times
142  * in this table are for the workstation; server timeouts, add
143  * ServerBias */
144
145 static int TimeOuts[] = {
146 /* Note: don't make the first entry larger than 4 hours (see above) */
147     4 * 60 * 60,                /* 0-7 users */
148     1 * 60 * 60,                /* 8-15 users */
149     30 * 60,                    /* 16-23 users */
150     15 * 60,                    /* 24-31 users */
151     15 * 60,                    /* 32-39 users */
152     10 * 60,                    /* 40-47 users */
153     10 * 60,                    /* 48-55 users */
154     10 * 60,                    /* 56-63 users */
155 };                              /* Anything more: MinTimeOut */
156
157 /* minimum time given for a call back */
158 #ifndef INTERPRET_DUMP
159 static int MinTimeOut = (7 * 60);
160 #endif
161
162 /* Heads of CB queues; a timeout index is 1+index into this array */
163 static afs_uint32 timeout[CB_NUM_TIMEOUT_QUEUES];
164
165 static afs_int32 tfirst;        /* cbtime of oldest unexpired call back time queue */
166
167
168 /* 16 byte object get/free routines */
169 struct object {
170     struct object *next;
171 };
172
173 /* Prototypes for static routines */
174 static struct FileEntry *FindFE(register AFSFid * fid);
175
176 #ifndef INTERPRET_DUMP
177 static struct CallBack *iGetCB(register int *nused);
178 static int iFreeCB(register struct CallBack *cb, register int *nused);
179 static struct FileEntry *iGetFE(register int *nused);
180 static int iFreeFE(register struct FileEntry *fe, register int *nused);
181 static int TAdd(register struct CallBack *cb, register afs_uint32 * thead);
182 static int TDel(register struct CallBack *cb);
183 static int HAdd(register struct CallBack *cb, register struct host *host);
184 static int HDel(register struct CallBack *cb);
185 static int CDel(struct CallBack *cb, int deletefe);
186 static int CDelPtr(register struct FileEntry *fe, register afs_uint32 * cbp,
187                    int deletefe);
188 static afs_uint32 *FindCBPtr(struct FileEntry *fe, struct host *host);
189 static int FDel(register struct FileEntry *fe);
190 static int AddCallBack1_r(struct host *host, AFSFid * fid, afs_uint32 * thead,
191                           int type, int locked);
192 static void MultiBreakCallBack_r(struct cbstruct cba[], int ncbas,
193                                  struct AFSCBFids *afidp, struct host *xhost);
194 static int MultiBreakVolumeCallBack_r(struct host *host, int isheld,
195                                       struct VCBParams *parms, int deletefe);
196 static int MultiBreakVolumeCallBack(struct host *host, int isheld,
197                                     void *rock);
198 static int MultiBreakVolumeLaterCallBack(struct host *host, int isheld,
199                                          void *rock);
200 static int GetSomeSpace_r(struct host *hostp, int locked);
201 static int ClearHostCallbacks_r(struct host *hp, int locked);
202 #endif
203
204 #define GetCB() ((struct CallBack *)iGetCB(&cbstuff.nCBs))
205 #define GetFE() ((struct FileEntry *)iGetFE(&cbstuff.nFEs))
206 #define FreeCB(cb) iFreeCB((struct CallBack *)cb, &cbstuff.nCBs)
207 #define FreeFE(fe) iFreeFE((struct FileEntry *)fe, &cbstuff.nFEs)
208
209
210 /* Other protos - move out sometime */
211 void PrintCB(register struct CallBack *cb, afs_uint32 now);
212
213 static afs_uint32 HashTable[FEHASH_SIZE];       /* File entry hash table */
214
215 static struct FileEntry *
216 FindFE(register AFSFid * fid)
217 {
218     int hash;
219     register int fei;
220     register struct FileEntry *fe;
221
222     hash = FEHash(fid->Volume, fid->Unique);
223     for (fei = HashTable[hash]; fei; fei = fe->fnext) {
224         fe = itofe(fei);
225         if (fe->volid == fid->Volume && fe->unique == fid->Unique
226             && fe->vnode == fid->Vnode && (fe->status & FE_LATER) != FE_LATER)
227             return fe;
228     }
229     return 0;
230 }
231
232 #ifndef INTERPRET_DUMP
233
234 static struct CallBack *
235 iGetCB(register int *nused)
236 {
237     register struct CallBack *ret;
238
239     if ((ret = CBfree)) {
240         CBfree = (struct CallBack *)(((struct object *)ret)->next);
241         (*nused)++;
242     }
243     return ret;
244 }
245
246 static int
247 iFreeCB(register struct CallBack *cb, register int *nused)
248 {
249     ((struct object *)cb)->next = (struct object *)CBfree;
250     CBfree = cb;
251     (*nused)--;
252     return 0;
253 }
254
255 static struct FileEntry *
256 iGetFE(register int *nused)
257 {
258     register struct FileEntry *ret;
259
260     if ((ret = FEfree)) {
261         FEfree = (struct FileEntry *)(((struct object *)ret)->next);
262         (*nused)++;
263     }
264     return ret;
265 }
266
267 static int
268 iFreeFE(register struct FileEntry *fe, register int *nused)
269 {
270     ((struct object *)fe)->next = (struct object *)FEfree;
271     FEfree = fe;
272     (*nused)--;
273     return 0;
274 }
275
276 /* Add cb to end of specified timeout list */
277 static int
278 TAdd(register struct CallBack *cb, register afs_uint32 * thead)
279 {
280     if (!*thead) {
281         (*thead) = cb->tnext = cb->tprev = cbtoi(cb);
282     } else {
283         register struct CallBack *thp = itocb(*thead);
284
285         cb->tprev = thp->tprev;
286         cb->tnext = *thead;
287         if (thp) {
288             if (thp->tprev)
289                 thp->tprev = (itocb(thp->tprev)->tnext = cbtoi(cb));
290             else
291                 thp->tprev = cbtoi(cb);
292         }
293     }
294     cb->thead = ttoi(thead);
295     return 0;
296 }
297
298 /* Delete call back entry from timeout list */
299 static int
300 TDel(register struct CallBack *cb)
301 {
302     register afs_uint32 *thead = itot(cb->thead);
303
304     if (*thead == cbtoi(cb))
305         *thead = (*thead == cb->tnext ? 0 : cb->tnext);
306     if (itocb(cb->tprev))
307         itocb(cb->tprev)->tnext = cb->tnext;
308     if (itocb(cb->tnext))
309         itocb(cb->tnext)->tprev = cb->tprev;
310     return 0;
311 }
312
313 /* Add cb to end of specified host list */
314 static int
315 HAdd(register struct CallBack *cb, register struct host *host)
316 {
317     cb->hhead = h_htoi(host);
318     if (!host->cblist) {
319         host->cblist = cb->hnext = cb->hprev = cbtoi(cb);
320     } else {
321         register struct CallBack *fcb = itocb(host->cblist);
322
323         cb->hprev = fcb->hprev;
324         cb->hnext = cbtoi(fcb);
325         fcb->hprev = (itocb(fcb->hprev)->hnext = cbtoi(cb));
326     }
327     return 0;
328 }
329
330 /* Delete call back entry from host list */
331 static int
332 HDel(register struct CallBack *cb)
333 {
334     register afs_uint32 *hhead = &h_itoh(cb->hhead)->cblist;
335
336     if (*hhead == cbtoi(cb))
337         *hhead = (*hhead == cb->hnext ? 0 : cb->hnext);
338     itocb(cb->hprev)->hnext = cb->hnext;
339     itocb(cb->hnext)->hprev = cb->hprev;
340     return 0;
341 }
342
343 /* Delete call back entry from fid's chain of cb's */
344 /* N.B.  This one also deletes the CB, and also possibly parent FE, so
345  * make sure that it is not on any other list before calling this
346  * routine */
347 static int
348 CDel(struct CallBack *cb, int deletefe)
349 {
350     int cbi = cbtoi(cb);
351     struct FileEntry *fe = itofe(cb->fhead);
352     register afs_uint32 *cbp;
353     register int safety;
354
355     for (safety = 0, cbp = &fe->firstcb; *cbp && *cbp != cbi;
356          cbp = &itocb(*cbp)->cnext, safety++) {
357         if (safety > cbstuff.nblks + 10) {
358             assert(0);
359             ViceLog(0,
360                     ("CDel: Internal Error -- shutting down: wanted %d from %d, now at %d\n",
361                      cbi, fe->firstcb, *cbp));
362             DumpCallBackState();
363             ShutDownAndCore(PANIC);
364         }
365     }
366     CDelPtr(fe, cbp, deletefe);
367     return 0;
368 }
369
370 /* Same as CDel, but pointer to parent pointer to CB entry is passed,
371  * as well as file entry */
372 /* N.B.  This one also deletes the CB, and also possibly parent FE, so
373  * make sure that it is not on any other list before calling this
374  * routine */
375 static int Ccdelpt = 0, CcdelB = 0;
376
377 static int
378 CDelPtr(register struct FileEntry *fe, register afs_uint32 * cbp,
379         int deletefe)
380 {
381     register struct CallBack *cb;
382
383     if (!*cbp)
384         return 0;
385     Ccdelpt++;
386     cb = itocb(*cbp);
387     if (cb != &CB[*cbp])
388         CcdelB++;
389     *cbp = cb->cnext;
390     FreeCB(cb);
391     if ((--fe->ncbs == 0) && deletefe)
392         FDel(fe);
393     return 0;
394 }
395
396 static afs_uint32 *
397 FindCBPtr(struct FileEntry *fe, struct host *host)
398 {
399     register afs_uint32 hostindex = h_htoi(host);
400     register struct CallBack *cb;
401     register afs_uint32 *cbp;
402     register int safety;
403
404     for (safety = 0, cbp = &fe->firstcb; *cbp; cbp = &cb->cnext, safety++) {
405         if (safety > cbstuff.nblks) {
406             ViceLog(0, ("FindCBPtr: Internal Error -- shutting down.\n"));
407             DumpCallBackState();
408             ShutDownAndCore(PANIC);
409         }
410         cb = itocb(*cbp);
411         if (cb->hhead == hostindex)
412             break;
413     }
414     return cbp;
415 }
416
417 /* Delete file entry from hash table */
418 static int
419 FDel(register struct FileEntry *fe)
420 {
421     register int fei = fetoi(fe);
422     register afs_uint32 *p = &HashTable[FEHash(fe->volid, fe->unique)];
423
424     while (*p && *p != fei)
425         p = &itofe(*p)->fnext;
426     assert(*p);
427     *p = fe->fnext;
428     FreeFE(fe);
429     return 0;
430 }
431
432 /* initialize the callback package */
433 int
434 InitCallBack(int nblks)
435 {
436     H_LOCK;
437     tfirst = CBtime(FT_ApproxTime());
438     /* N.B. The "-1", below, is because
439      * FE[0] and CB[0] are not used--and not allocated */
440     FE = ((struct FileEntry *)(calloc(nblks, sizeof(struct FileEntry))));
441     if (!FE) {
442         ViceLog(0, ("Failed malloc in InitCallBack\n"));
443         assert(0);
444     }
445     FE--;  /* FE[0] is supposed to point to junk */
446     cbstuff.nFEs = nblks;
447     while (cbstuff.nFEs)
448         FreeFE(&FE[cbstuff.nFEs]);      /* This is correct */
449     CB = ((struct CallBack *)(calloc(nblks, sizeof(struct CallBack))));
450     if (!CB) {
451         ViceLog(0, ("Failed malloc in InitCallBack\n"));
452         assert(0);
453     }
454     CB--;  /* CB[0] is supposed to point to junk */
455     cbstuff.nCBs = nblks;
456     while (cbstuff.nCBs)
457         FreeCB(&CB[cbstuff.nCBs]);      /* This is correct */
458     cbstuff.nblks = nblks;
459     cbstuff.nbreakers = 0;
460     H_UNLOCK;
461     return 0;
462 }
463
464 afs_int32
465 XCallBackBulk_r(struct host * ahost, struct AFSFid * fids, afs_int32 nfids)
466 {
467     struct AFSCallBack tcbs[AFSCBMAX];
468     register int i;
469     struct AFSCBFids tf;
470     struct AFSCBs tc;
471     int code;
472     int j;
473     struct rx_connection *cb_conn = NULL;
474
475 #ifdef  ADAPT_MTU
476     rx_SetConnDeadTime(ahost->callback_rxcon, 4);
477     rx_SetConnHardDeadTime(ahost->callback_rxcon, AFS_HARDDEADTIME);
478 #endif
479
480     code = 0;
481     j = 0;
482     while (nfids > 0) {
483
484         for (i = 0; i < nfids && i < AFSCBMAX; i++) {
485             tcbs[i].CallBackVersion = CALLBACK_VERSION;
486             tcbs[i].ExpirationTime = 0;
487             tcbs[i].CallBackType = CB_DROPPED;
488         }
489         tf.AFSCBFids_len = i;
490         tf.AFSCBFids_val = &(fids[j]);
491         nfids -= i;
492         j += i;
493         tc.AFSCBs_len = i;
494         tc.AFSCBs_val = tcbs;
495
496         cb_conn = ahost->callback_rxcon;
497         rx_GetConnection(cb_conn);
498         H_UNLOCK;
499         code |= RXAFSCB_CallBack(cb_conn, &tf, &tc);
500         rx_PutConnection(cb_conn);
501         cb_conn = NULL;
502         H_LOCK;
503     }
504
505     return code;
506 }
507
508 /* the locked flag tells us if the host entry has already been locked 
509  * by our parent.  I don't think anybody actually calls us with the
510  * host locked, but here's how to make that work:  GetSomeSpace has to
511  * change so that it doesn't attempt to lock any hosts < "host".  That
512  * means that it might be unable to free any objects, so it has to
513  * return an exit status.  If it fails, then AddCallBack1 might fail,
514  * as well. If so, the host->ResetDone should probably be set to 0,
515  * and we probably don't want to return a callback promise to the
516  * cache manager, either. */
517 int
518 AddCallBack1(struct host *host, AFSFid * fid, afs_uint32 * thead, int type,
519              int locked)
520 {
521     int retVal = 0;
522     H_LOCK;
523     if (!locked) {
524         h_Lock_r(host);
525     }
526     if (!(host->hostFlags & HOSTDELETED))
527         retVal = AddCallBack1_r(host, fid, thead, type, 1);
528
529     if (!locked) {
530         h_Unlock_r(host);
531     }
532     H_UNLOCK;
533     return retVal;
534 }
535
536 static int
537 AddCallBack1_r(struct host *host, AFSFid * fid, afs_uint32 * thead, int type,
538                int locked)
539 {
540     struct FileEntry *fe;
541     struct CallBack *cb = 0, *lastcb = 0;
542     struct FileEntry *newfe = 0;
543     afs_uint32 time_out = 0;
544     afs_uint32 *Thead = thead;
545     struct CallBack *newcb = 0;
546     int safety;
547
548     cbstuff.AddCallBacks++;
549
550     host->Console |= 2;
551
552     /* allocate these guys first, since we can't call the allocator with
553      * the host structure locked -- or we might deadlock. However, we have 
554      * to avoid races with FindFE... */
555     while (!(newcb = GetCB())) {
556         GetSomeSpace_r(host, locked);
557     }
558     while (!(newfe = GetFE())) {        /* Get it now, so we don't have to call */
559         /* GetSomeSpace with the host locked, later.  This might turn out to */
560         /* have been unneccessary, but that's actually kind of unlikely, since */
561         /* most files are not shared. */
562         GetSomeSpace_r(host, locked);
563     }
564
565     if (!locked) {
566         h_Lock_r(host);         /* this can yield, so do it before we get any */
567         /* fragile info */
568         if (host->hostFlags & HOSTDELETED) {
569             host->Console &= ~2;
570             h_Unlock_r(host);
571             return 0;
572         }
573     }
574
575     fe = FindFE(fid);
576     if (type == CB_NORMAL) {
577         time_out =
578             TimeCeiling(FT_ApproxTime() + TimeOut(fe ? fe->ncbs : 0) +
579                         ServerBias);
580         Thead = THead(CBtime(time_out));
581     } else if (type == CB_VOLUME) {
582         time_out = TimeCeiling((60 * 120 + FT_ApproxTime()) + ServerBias);
583         Thead = THead(CBtime(time_out));
584     } else if (type == CB_BULK) {
585         /* bulk status can get so many callbacks all at once, and most of them
586          * are probably not for things that will be used for long.
587          */
588         time_out =
589             TimeCeiling(FT_ApproxTime() + ServerBias +
590                         TimeOut(22 + (fe ? fe->ncbs : 0)));
591         Thead = THead(CBtime(time_out));
592     }
593
594     host->Console &= ~2;
595
596     if (!fe) {
597         register afs_uint32 hash;
598
599         fe = newfe;
600         newfe = NULL;
601         fe->firstcb = 0;
602         fe->volid = fid->Volume;
603         fe->vnode = fid->Vnode;
604         fe->unique = fid->Unique;
605         fe->ncbs = 0;
606         fe->status = 0;
607         hash = FEHash(fid->Volume, fid->Unique);
608         fe->fnext = HashTable[hash];
609         HashTable[hash] = fetoi(fe);
610     }
611     for (safety = 0, lastcb = cb = itocb(fe->firstcb); cb;
612          lastcb = cb, cb = itocb(cb->cnext), safety++) {
613         if (safety > cbstuff.nblks) {
614             ViceLog(0, ("AddCallBack1: Internal Error -- shutting down.\n"));
615             DumpCallBackState();
616             ShutDownAndCore(PANIC);
617         }
618         if (cb->hhead == h_htoi(host))
619             break;
620     }
621     if (cb) {                   /* Already have call back:  move to new timeout list */
622         /* don't change delayed callbacks back to normal ones */
623         if (cb->status != CB_DELAYED)
624             cb->status = type;
625         /* Only move if new timeout is longer */
626         if (TNorm(ttoi(Thead)) > TNorm(cb->thead)) {
627             TDel(cb);
628             TAdd(cb, Thead);
629         }
630         if (newfe == NULL) {    /* we are using the new FE */
631             fe->firstcb = cbtoi(cb);
632             fe->ncbs++;
633             cb->fhead = fetoi(fe);
634         }
635     } else {
636         cb = newcb;
637         newcb = NULL;
638         *(lastcb ? &lastcb->cnext : &fe->firstcb) = cbtoi(cb);
639         fe->ncbs++;
640         cb->cnext = 0;
641         cb->fhead = fetoi(fe);
642         cb->status = type;
643         HAdd(cb, host);
644         TAdd(cb, Thead);
645     }
646
647     /* now free any still-unused callback or host entries */
648     if (newcb)
649         FreeCB(newcb);
650     if (newfe)
651         FreeFE(newfe);
652
653     if (!locked)                /* freecb and freefe might(?) yield */
654         h_Unlock_r(host);
655
656     if (type == CB_NORMAL || type == CB_VOLUME || type == CB_BULK)
657         return time_out - ServerBias;   /* Expires sooner at workstation */
658
659     return 0;
660 }
661
662 static int
663 CompareCBA(const void *e1, const void *e2)
664 {
665     const struct cbstruct *cba1 = (const struct cbstruct *)e1;
666     const struct cbstruct *cba2 = (const struct cbstruct *)e2;
667     return ((cba1->hp)->index - (cba2->hp)->index);
668 }
669
670 /* Take an array full of hosts, all held.  Break callbacks to them, and 
671  * release the holds once you're done, except don't release xhost.  xhost 
672  * may be NULL.  Currently only works for a single Fid in afidp array.
673  * If you want to make this work with multiple fids, you need to fix
674  * the error handling.  One approach would be to force a reset if a
675  * multi-fid call fails, or you could add delayed callbacks for each
676  * fid.   You probably also need to sort and remove duplicate hosts.
677  * When this is called from the BreakVolumeCallBacks path, it does NOT 
678  * force a reset if the RPC fails, it just marks the host down and tries 
679  * to create a delayed callback. */
680 /* N.B.  be sure that code works when ncbas == 0 */
681 /* N.B.  requires all the cba[*].hp pointers to be valid... */
682 /* This routine does not hold a lock on the host for the duration of 
683  * the BreakCallBack RPC, which is a significant deviation from tradition.
684  * It _does_ get a lock on the host before setting VenusDown = 1,
685  * which is sufficient only if VenusDown = 0 only happens when the
686  * lock is held over the RPC and the subsequent VenusDown == 0
687  * wherever that is done. */
688 static void
689 MultiBreakCallBack_r(struct cbstruct cba[], int ncbas,
690                      struct AFSCBFids *afidp, struct host *xhost)
691 {
692     int i, j;
693     struct rx_connection *conns[MAX_CB_HOSTS];
694     static struct AFSCBs tc = { 0, 0 };
695     int multi_to_cba_map[MAX_CB_HOSTS];
696
697     assert(ncbas <= MAX_CB_HOSTS);
698
699     /* sort cba list to avoid makecall issues */
700     qsort(cba, ncbas, sizeof(struct cbstruct), CompareCBA);
701
702     /* set up conns for multi-call */
703     for (i = 0, j = 0; i < ncbas; i++) {
704         struct host *thishost = cba[i].hp;
705         if (!thishost || (thishost->hostFlags & HOSTDELETED)) {
706             continue;
707         }
708         rx_GetConnection(thishost->callback_rxcon);
709         multi_to_cba_map[j] = i;
710         conns[j++] = thishost->callback_rxcon;
711
712 #ifdef  ADAPT_MTU
713         rx_SetConnDeadTime(thishost->callback_rxcon, 4);
714         rx_SetConnHardDeadTime(thishost->callback_rxcon, AFS_HARDDEADTIME);
715 #endif
716     }
717
718     if (j) {                    /* who knows what multi would do with 0 conns? */
719         cbstuff.nbreakers++;
720         H_UNLOCK;
721         multi_Rx(conns, j) {
722             multi_RXAFSCB_CallBack(afidp, &tc);
723             if (multi_error) {
724                 afs_uint32 idx;
725                 struct host *hp;
726                 char hoststr[16];
727
728                 i = multi_to_cba_map[multi_i];
729                 hp = cba[i].hp;
730                 idx = cba[i].thead;
731
732                 if (!hp || !idx) {
733                     ViceLog(0,
734                             ("BCB: INTERNAL ERROR: hp=%p, cba=%p, thead=%u\n",
735                              hp, cba, idx));
736                 } else {
737                     /* 
738                      ** try breaking callbacks on alternate interface addresses
739                      */
740                     if (MultiBreakCallBackAlternateAddress(hp, afidp)) {
741                         if (ShowProblems) {
742                             ViceLog(7,
743                                     ("BCB: Failed on file %u.%u.%u, "
744                                      "Host %p (%s:%d) is down\n",
745                                      afidp->AFSCBFids_val->Volume,
746                                      afidp->AFSCBFids_val->Vnode,
747                                      afidp->AFSCBFids_val->Unique,
748                                      hp,
749                                      afs_inet_ntoa_r(hp->host, hoststr),
750                                      ntohs(hp->port)));
751                         }
752
753                         H_LOCK;
754                         h_Lock_r(hp); 
755                         if (!(hp->hostFlags & HOSTDELETED)) {
756                             hp->hostFlags |= VENUSDOWN;
757                             /**
758                              * We always go into AddCallBack1_r with the host locked
759                              */
760                             AddCallBack1_r(hp, afidp->AFSCBFids_val, itot(idx),
761                                            CB_DELAYED, 1);
762                         }
763                         h_Unlock_r(hp); 
764                         H_UNLOCK;
765                     }
766                 }
767             }
768         }
769         multi_End;
770         H_LOCK;
771         cbstuff.nbreakers--;
772     }
773
774     for (i = 0; i < ncbas; i++) {
775         struct host *hp;
776         hp = cba[i].hp;
777         if (hp && xhost != hp) {
778             h_Release_r(hp);
779         }
780     }
781
782     /* H_UNLOCK around this so h_FreeConnection does not deadlock.
783        h_FreeConnection should *never* be called on a callback connection,
784        but on 10/27/04 a deadlock occurred where it was, when we know why,
785        this should be reverted. -- shadow */
786     H_UNLOCK;
787     for (i = 0; i < j; i++) {
788         rx_PutConnection(conns[i]);
789     }
790     H_LOCK;
791
792     return;
793 }
794
795 /*
796  * Break all call backs for fid, except for the specified host (unless flag
797  * is true, in which case all get a callback message. Assumption: the specified
798  * host is h_Held, by the caller; the others aren't.
799  * Specified host may be bogus, that's ok.  This used to check to see if the 
800  * host was down in two places, once right after the host was h_held, and 
801  * again after it was locked.  That race condition is incredibly rare and
802  * relatively harmless even when it does occur, so we don't check for it now. 
803  */
804 /* if flag is true, send a break callback msg to "host", too */
805 int
806 BreakCallBack(struct host *xhost, AFSFid * fid, int flag)
807 {
808     struct FileEntry *fe;
809     struct CallBack *cb, *nextcb;
810     struct cbstruct cba[MAX_CB_HOSTS];
811     int ncbas;
812     struct AFSCBFids tf;
813     int hostindex;
814     char hoststr[16];
815
816     ViceLog(7,
817             ("BCB: BreakCallBack(Host %p all but %s:%d, (%u,%u,%u))\n",
818              xhost, afs_inet_ntoa_r(xhost->host, hoststr), ntohs(xhost->port),
819              fid->Volume, fid->Vnode, fid->Unique));
820
821     H_LOCK;
822     cbstuff.BreakCallBacks++;
823     fe = FindFE(fid);
824     if (!fe) {
825         goto done;
826     }
827     hostindex = h_htoi(xhost);
828     cb = itocb(fe->firstcb);
829     if (!cb || ((fe->ncbs == 1) && (cb->hhead == hostindex) && !flag)) {
830         /* the most common case is what follows the || */
831         goto done;
832     }
833     tf.AFSCBFids_len = 1;
834     tf.AFSCBFids_val = fid;
835
836     for (; cb;) {
837         for (ncbas = 0; cb && ncbas < MAX_CB_HOSTS; cb = nextcb) {
838             nextcb = itocb(cb->cnext);
839             if ((cb->hhead != hostindex || flag)
840                 && (cb->status == CB_BULK || cb->status == CB_NORMAL
841                     || cb->status == CB_VOLUME)) {
842                 struct host *thishost = h_itoh(cb->hhead);
843                 if (!thishost) {
844                     ViceLog(0, ("BCB: BOGUS! cb->hhead is NULL!\n"));
845                 } else if (thishost->hostFlags & VENUSDOWN) {
846                     ViceLog(7,
847                             ("BCB: %p (%s:%d) is down; delaying break call back\n",
848                              thishost, afs_inet_ntoa_r(thishost->host, hoststr),
849                              ntohs(thishost->port)));
850                     cb->status = CB_DELAYED;
851                 } else {
852                     if (!(thishost->hostFlags & HOSTDELETED)) {
853                         h_Hold_r(thishost);
854                         cba[ncbas].hp = thishost;
855                         cba[ncbas].thead = cb->thead;
856                         ncbas++;
857                     }
858                     TDel(cb);
859                     HDel(cb);
860                     CDel(cb, 1);        /* Usually first; so this delete 
861                                          * is reasonably inexpensive */
862                 }
863             }
864         }
865
866         if (ncbas) {
867             MultiBreakCallBack_r(cba, ncbas, &tf, xhost);
868
869             /* we need to to all these initializations again because MultiBreakCallBack may block */
870             fe = FindFE(fid);
871             if (!fe) {
872                 goto done;
873             }
874             cb = itocb(fe->firstcb);
875             if (!cb || ((fe->ncbs == 1) && (cb->hhead == hostindex) && !flag)) {
876                 /* the most common case is what follows the || */
877                 goto done;
878             }
879         }
880     }
881
882   done:
883     H_UNLOCK;
884     return 0;
885 }
886
887 /* Delete (do not break) single call back for fid */
888 int
889 DeleteCallBack(struct host *host, AFSFid * fid)
890 {
891     register struct FileEntry *fe;
892     register afs_uint32 *pcb;
893     char hoststr[16];
894
895     H_LOCK;
896     cbstuff.DeleteCallBacks++;
897
898     h_Lock_r(host);
899     /* do not care if the host has been HOSTDELETED */
900     fe = FindFE(fid);
901     if (!fe) {
902         h_Unlock_r(host);
903         H_UNLOCK;
904         ViceLog(8,
905                 ("DCB: No call backs for fid (%u, %u, %u)\n", fid->Volume,
906                  fid->Vnode, fid->Unique));
907         return 0;
908     }
909     pcb = FindCBPtr(fe, host);
910     if (!*pcb) {
911         ViceLog(8,
912                 ("DCB: No call back for host %p (%s:%d), (%u, %u, %u)\n",
913                  host, afs_inet_ntoa_r(host->host, hoststr), ntohs(host->port),
914                  fid->Volume, fid->Vnode, fid->Unique));
915         h_Unlock_r(host);
916         H_UNLOCK;
917         return 0;
918     }
919     HDel(itocb(*pcb));
920     TDel(itocb(*pcb));
921     CDelPtr(fe, pcb, 1);
922     h_Unlock_r(host);
923     H_UNLOCK;
924     return 0;
925 }
926
927 /*
928  * Delete (do not break) all call backs for fid.  This call doesn't
929  * set all of the various host locks, but it shouldn't really matter
930  * since we're not adding callbacks, but deleting them.  I'm not sure
931  * why it doesn't set the lock, however; perhaps it should.
932  */
933 int
934 DeleteFileCallBacks(AFSFid * fid)
935 {
936     register struct FileEntry *fe;
937     register struct CallBack *cb;
938     register afs_uint32 cbi;
939     register int n;
940
941     H_LOCK;
942     cbstuff.DeleteFiles++;
943     fe = FindFE(fid);
944     if (!fe) {
945         H_UNLOCK;
946         ViceLog(8,
947                 ("DF: No fid (%u,%u,%u) to delete\n", fid->Volume, fid->Vnode,
948                  fid->Unique));
949         return 0;
950     }
951     for (n = 0, cbi = fe->firstcb; cbi; n++) {
952         cb = itocb(cbi);
953         cbi = cb->cnext;
954         TDel(cb);
955         HDel(cb);
956         FreeCB(cb);
957         fe->ncbs--;
958     }
959     FDel(fe);
960     H_UNLOCK;
961     return 0;
962 }
963
964 /* Delete (do not break) all call backs for host.  The host should be
965  * locked. */
966 int
967 DeleteAllCallBacks_r(struct host *host, int deletefe)
968 {
969     register struct CallBack *cb;
970     register int cbi, first;
971
972     cbstuff.DeleteAllCallBacks++;
973     cbi = first = host->cblist;
974     if (!cbi) {
975         ViceLog(8, ("DV: no call backs\n"));
976         return 0;
977     }
978     do {
979         cb = itocb(cbi);
980         cbi = cb->hnext;
981         TDel(cb);
982         CDel(cb, deletefe);
983     } while (cbi != first);
984     host->cblist = 0;
985     return 0;
986 }
987
988 /*
989  * Break all delayed call backs for host.  Returns 1 if all call backs
990  * successfully broken; 0 otherwise.  Assumes host is h_Held and h_Locked.
991  * Must be called with VenusDown set for this host
992  */
993 int
994 BreakDelayedCallBacks(struct host *host)
995 {
996     int retVal;
997     H_LOCK;
998     retVal = BreakDelayedCallBacks_r(host);
999     H_UNLOCK;
1000     return retVal;
1001 }
1002
1003 int
1004 BreakDelayedCallBacks_r(struct host *host)
1005 {
1006     struct AFSFid fids[AFSCBMAX];
1007     u_byte thead[AFSCBMAX];     /* This should match thead in struct Callback */
1008     int cbi, first, nfids;
1009     struct CallBack *cb;
1010     int code;
1011     char hoststr[16];
1012     struct rx_connection *cb_conn;
1013
1014     cbstuff.nbreakers++;
1015     if (!(host->hostFlags & RESETDONE) && !(host->hostFlags & HOSTDELETED)) {
1016         host->hostFlags &= ~ALTADDR;    /* alternate addresses are invalid */
1017         cb_conn = host->callback_rxcon;
1018         rx_GetConnection(cb_conn);
1019         if (host->interface) {
1020             H_UNLOCK;
1021             code =
1022                 RXAFSCB_InitCallBackState3(cb_conn, &FS_HostUUID);
1023         } else {
1024             H_UNLOCK;
1025             code = RXAFSCB_InitCallBackState(cb_conn);
1026         }
1027         rx_PutConnection(cb_conn);
1028         cb_conn = NULL;
1029         H_LOCK;
1030         host->hostFlags |= ALTADDR;     /* alternate addresses are valid */
1031         if (code) {
1032             if (ShowProblems) {
1033                 ViceLog(0,
1034                         ("CB: Call back connect back failed (in break delayed) "
1035                          "for Host %p (%s:%d)\n",
1036                          host, afs_inet_ntoa_r(host->host, hoststr),
1037                          ntohs(host->port)));
1038             }
1039             host->hostFlags |= VENUSDOWN;
1040         } else {
1041             ViceLog(25,
1042                     ("InitCallBackState success on %p (%s:%d)\n",
1043                      host, afs_inet_ntoa_r(host->host, hoststr),
1044                      ntohs(host->port)));
1045             /* reset was done successfully */
1046             host->hostFlags |= RESETDONE;
1047             host->hostFlags &= ~VENUSDOWN;
1048         }
1049     } else
1050         while (!(host->hostFlags & HOSTDELETED)) {
1051             nfids = 0;
1052             host->hostFlags &= ~VENUSDOWN;      /* presume up */
1053             cbi = first = host->cblist;
1054             if (!cbi)
1055                 break;
1056             do {
1057                 first = host->cblist;
1058                 cb = itocb(cbi);
1059                 cbi = cb->hnext;
1060                 if (cb->status == CB_DELAYED) {
1061                     register struct FileEntry *fe = itofe(cb->fhead);
1062                     thead[nfids] = cb->thead;
1063                     fids[nfids].Volume = fe->volid;
1064                     fids[nfids].Vnode = fe->vnode;
1065                     fids[nfids].Unique = fe->unique;
1066                     nfids++;
1067                     HDel(cb);
1068                     TDel(cb);
1069                     CDel(cb, 1);
1070                 }
1071             } while (cbi && cbi != first && nfids < AFSCBMAX);
1072
1073             if (nfids == 0) {
1074                 break;
1075             }
1076
1077             if (XCallBackBulk_r(host, fids, nfids)) {
1078                 /* Failed, again:  put them back, probably with old
1079                  * timeout values */
1080                 int i;
1081                 if (ShowProblems) {
1082                     ViceLog(0,
1083                             ("CB: XCallBackBulk failed, Host %p (%s:%d); "
1084                              "callback list follows:\n",
1085                              host, afs_inet_ntoa_r(host->host, hoststr),
1086                              ntohs(host->port)));
1087                 }
1088                 for (i = 0; i < nfids; i++) {
1089                     if (ShowProblems) {
1090                         ViceLog(0,
1091                                 ("CB: Host %p (%s:%d), file %u.%u.%u "
1092                                  "(part of bulk callback)\n",
1093                                  host, afs_inet_ntoa_r(host->host, hoststr),
1094                                  ntohs(host->port), fids[i].Volume,
1095                                  fids[i].Vnode, fids[i].Unique));
1096                     }
1097                     /* used to do this:
1098                      * AddCallBack1_r(host, &fids[i], itot(thead[i]), CB_DELAYED, 1);
1099                      * * but it turns out to cause too many tricky locking problems.
1100                      * * now, if break delayed fails, screw it. */
1101                 }
1102                 host->hostFlags |= VENUSDOWN;   /* Failed */
1103                 ClearHostCallbacks_r(host, 1 /* locked */ );
1104                 nfids = 0;
1105                 break;
1106             }
1107             if (nfids < AFSCBMAX)
1108                 break;
1109         }
1110
1111     cbstuff.nbreakers--;
1112     /* If we succeeded it's always ok to unset HFE_LATER */
1113     if (!(host->hostFlags & VENUSDOWN))
1114         host->hostFlags &= ~HFE_LATER;
1115     return (host->hostFlags & VENUSDOWN);
1116 }
1117
1118 /*
1119 ** isheld is 0 if the host is held in h_Enumerate
1120 ** isheld is 1 if the host is held in BreakVolumeCallBacks
1121 */
1122 static int
1123 MultiBreakVolumeCallBack_r(struct host *host, int isheld,
1124                            struct VCBParams *parms, int deletefe)
1125 {
1126     char hoststr[16];
1127
1128     if (!isheld)
1129         return isheld;          /* host is held only by h_Enumerate, do nothing */
1130     if (host->hostFlags & HOSTDELETED)
1131         return 0;               /* host is deleted, release hold */
1132
1133     if (host->hostFlags & VENUSDOWN) {
1134         h_Lock_r(host);
1135         /* Do not care if the host is now HOSTDELETED */
1136         if (ShowProblems) {
1137             ViceLog(0,
1138                     ("BVCB: volume callback for Host %p (%s:%d) failed\n",
1139                      host, afs_inet_ntoa_r(host->host, hoststr),
1140                      ntohs(host->port)));
1141         }
1142         DeleteAllCallBacks_r(host, deletefe);   /* Delete all callback state 
1143                                                  * rather than attempting to 
1144                                                  * selectively remember to
1145                                                  * delete the volume callbacks
1146                                                  * later */
1147         host->hostFlags &= ~RESETDONE;  /* Do InitCallBackState when host returns */
1148         h_Unlock_r(host);
1149         return 0;               /* release hold */
1150     }
1151     assert(parms->ncbas <= MAX_CB_HOSTS);
1152
1153     /* Do not call MultiBreakCallBack on the current host structure
1154      ** because it would prematurely release the hold on the host
1155      */
1156     if (parms->ncbas == MAX_CB_HOSTS) {
1157         struct AFSCBFids tf;
1158
1159         tf.AFSCBFids_len = 1;
1160         tf.AFSCBFids_val = parms->fid;
1161
1162         /* this releases all the hosts */
1163         MultiBreakCallBack_r(parms->cba, parms->ncbas, &tf, 0 /* xhost */ );
1164
1165         parms->ncbas = 0;
1166     }
1167     parms->cba[parms->ncbas].hp = host;
1168     parms->cba[(parms->ncbas)++].thead = parms->thead;
1169     return 1;                   /* DON'T release hold, because we still need it. */
1170 }
1171
1172 /*
1173 ** isheld is 0 if the host is held in h_Enumerate
1174 ** isheld is 1 if the host is held in BreakVolumeCallBacks
1175 */
1176 static int
1177 MultiBreakVolumeCallBack(struct host *host, int isheld, void *rock)
1178 {
1179     struct VCBParams *parms = (struct VCBParams *) rock;
1180     
1181     int retval;
1182     H_LOCK;
1183     retval = MultiBreakVolumeCallBack_r(host, isheld, parms, 1);
1184     H_UNLOCK;
1185     return retval;
1186 }
1187
1188 /*
1189 ** isheld is 0 if the host is held in h_Enumerate
1190 ** isheld is 1 if the host is held in BreakVolumeCallBacks
1191 */
1192 static int
1193 MultiBreakVolumeLaterCallBack(struct host *host, int isheld, void *rock)
1194 {
1195     struct VCBParams *parms = (struct VCBParams *)rock;
1196     int retval;
1197     H_LOCK;
1198     retval = MultiBreakVolumeCallBack_r(host, isheld, parms, 0);
1199     H_UNLOCK;
1200     return retval;
1201 }
1202
1203 /*
1204  * Break all call backs on a single volume.  Don't call this with any
1205  * hosts h_held.  Note that this routine clears the callbacks before
1206  * actually breaking them, and that the vnode isn't locked during this
1207  * operation, so that people might see temporary callback loss while
1208  * this function is executing.  It is just a temporary state, however,
1209  * since the callback will be broken later by this same function.
1210  *
1211  * Now uses multi-RX for CallBack RPC.  Note that the
1212  * multiBreakCallBacks routine does not force a reset if the RPC
1213  * fails, unlike the previous version of this routine, but does create
1214  * a delayed callback.  Resets will be forced if the host is
1215  * determined to be down before the RPC is executed.
1216  */
1217 int
1218 BreakVolumeCallBacks(afs_uint32 volume)
1219 {
1220     struct AFSFid fid;
1221     int hash;
1222     afs_uint32 *feip;
1223     struct CallBack *cb;
1224     struct FileEntry *fe;
1225     struct host *host;
1226     struct VCBParams henumParms;
1227     afs_uint32 tthead = 0;      /* zero is illegal value */
1228
1229     H_LOCK;
1230     fid.Volume = volume, fid.Vnode = fid.Unique = 0;
1231     for (hash = 0; hash < FEHASH_SIZE; hash++) {
1232         for (feip = &HashTable[hash]; (fe = itofe(*feip));) {
1233             if (fe->volid == volume) {
1234                 register struct CallBack *cbnext;
1235                 for (cb = itocb(fe->firstcb); cb; cb = cbnext) {
1236                     host = h_itoh(cb->hhead);
1237
1238                     if (!(host->hostFlags & HOSTDELETED)) {
1239                         h_Hold_r(host);
1240                         if (!tthead || (TNorm(tthead) < TNorm(cb->thead))) {
1241                             tthead = cb->thead;
1242                         }
1243                     }
1244                     cbnext = itocb(cb->cnext);
1245                     TDel(cb);
1246                     HDel(cb);
1247                     FreeCB(cb);
1248                     /* leave hold for MultiBreakVolumeCallBack to clear */
1249                 }
1250                 *feip = fe->fnext;
1251                 FreeFE(fe);
1252             } else {
1253                 feip = &fe->fnext;
1254             }
1255         }
1256     }
1257
1258     if (!tthead) {
1259         /* didn't find any callbacks, so return right away. */
1260         H_UNLOCK;
1261         return 0;
1262     }
1263     henumParms.ncbas = 0;
1264     henumParms.fid = &fid;
1265     henumParms.thead = tthead;
1266     H_UNLOCK;
1267     h_Enumerate(MultiBreakVolumeCallBack, &henumParms);
1268     H_LOCK;
1269     if (henumParms.ncbas) {     /* do left-overs */
1270         struct AFSCBFids tf;
1271         tf.AFSCBFids_len = 1;
1272         tf.AFSCBFids_val = &fid;
1273
1274         MultiBreakCallBack_r(henumParms.cba, henumParms.ncbas, &tf, 0);
1275
1276         henumParms.ncbas = 0;
1277     }
1278     H_UNLOCK;
1279     return 0;
1280 }
1281
1282 #ifdef AFS_PTHREAD_ENV
1283 extern pthread_cond_t fsync_cond;
1284 #else
1285 extern char fsync_wait[];
1286 #endif
1287
1288 int
1289 BreakVolumeCallBacksLater(afs_uint32 volume)
1290 {
1291     int hash;
1292     afs_uint32 *feip;
1293     struct FileEntry *fe;
1294     struct CallBack *cb;
1295     struct host *host;
1296     int found = 0;
1297
1298     ViceLog(25, ("Setting later on volume %u\n", volume));
1299     H_LOCK;
1300     for (hash = 0; hash < FEHASH_SIZE; hash++) {
1301         for (feip = &HashTable[hash]; (fe = itofe(*feip)) != NULL; ) {
1302             if (fe->volid == volume) {
1303                 register struct CallBack *cbnext;
1304                 for (cb = itocb(fe->firstcb); cb; cb = cbnext) {
1305                     host = h_itoh(cb->hhead);
1306                     host->hostFlags |= HFE_LATER;
1307                     cb->status = CB_DELAYED;
1308                     cbnext = itocb(cb->cnext);
1309                 }
1310                 FSYNC_LOCK;
1311                 fe->status |= FE_LATER;
1312                 FSYNC_UNLOCK;
1313                 found = 1;
1314             }
1315             feip = &fe->fnext;
1316         }
1317     }
1318     H_UNLOCK;
1319     if (!found) {
1320         /* didn't find any callbacks, so return right away. */
1321         return 0;
1322     }
1323
1324     ViceLog(25, ("Fsync thread wakeup\n"));
1325 #ifdef AFS_PTHREAD_ENV
1326     FSYNC_LOCK;
1327     assert(pthread_cond_broadcast(&fsync_cond) == 0);
1328     FSYNC_UNLOCK;
1329 #else
1330     LWP_NoYieldSignal(fsync_wait);
1331 #endif
1332     return 0;
1333 }
1334
1335 int
1336 BreakLaterCallBacks(void)
1337 {
1338     struct AFSFid fid;
1339     int hash;
1340     afs_uint32 *feip;
1341     struct CallBack *cb;
1342     struct FileEntry *fe = NULL;
1343     struct FileEntry *myfe = NULL;
1344     struct host *host;
1345     struct VCBParams henumParms;
1346     unsigned short tthead = 0;  /* zero is illegal value */
1347     char hoststr[16];
1348
1349     /* Unchain first */
1350     ViceLog(25, ("Looking for FileEntries to unchain\n"));
1351     H_LOCK;
1352     FSYNC_LOCK;
1353     /* Pick the first volume we see to clean up */
1354     fid.Volume = fid.Vnode = fid.Unique = 0;
1355
1356     for (hash = 0; hash < FEHASH_SIZE; hash++) {
1357         for (feip = &HashTable[hash]; (fe = itofe(*feip)) != NULL; ) {
1358             if (fe && (fe->status & FE_LATER)
1359                 && (fid.Volume == 0 || fid.Volume == fe->volid)) {
1360                 /* Ugly, but used to avoid left side casting */
1361                 struct object *tmpfe;
1362                 ViceLog(125,
1363                         ("Unchaining for %u:%u:%u\n", fe->vnode, fe->unique,
1364                          fe->volid));
1365                 fid.Volume = fe->volid;
1366                 *feip = fe->fnext;
1367                 fe->status &= ~FE_LATER; /* not strictly needed */
1368                 /* Works since volid is deeper than the largest pointer */
1369                 tmpfe = (struct object *)fe;
1370                 tmpfe->next = (struct object *)myfe;
1371                 myfe = fe;
1372             } else
1373                 feip = &fe->fnext;
1374         }
1375     }
1376     FSYNC_UNLOCK;
1377
1378     if (!myfe) {
1379         H_UNLOCK;
1380         return 0;
1381     }
1382
1383     /* loop over FEs from myfe and free/break */
1384     tthead = 0;
1385     for (fe = myfe; fe;) {
1386         register struct CallBack *cbnext;
1387         for (cb = itocb(fe->firstcb); cb; cb = cbnext) {
1388             cbnext = itocb(cb->cnext);
1389             host = h_itoh(cb->hhead);
1390             if (cb->status == CB_DELAYED) {
1391                 if (!(host->hostFlags & HOSTDELETED)) {
1392                     h_Hold_r(host);
1393                     if (!tthead || (TNorm(tthead) < TNorm(cb->thead))) {
1394                         tthead = cb->thead;
1395                     }
1396                 }
1397                 TDel(cb);
1398                 HDel(cb);
1399                 CDel(cb, 0);    /* Don't let CDel clean up the fe */
1400                 /* leave hold for MultiBreakVolumeCallBack to clear */
1401             } else {
1402                 ViceLog(125,
1403                         ("Found host %p (%s:%d) non-DELAYED cb for %u:%u:%u\n",
1404                          host, afs_inet_ntoa_r(host->host, hoststr),
1405                          ntohs(host->port), fe->vnode, fe->unique, fe->volid));
1406             }
1407         }
1408         myfe = fe;
1409         fe = (struct FileEntry *)((struct object *)fe)->next;
1410         FreeFE(myfe);
1411     }
1412
1413     if (tthead) {
1414         ViceLog(125, ("Breaking volume %u\n", fid.Volume));
1415         henumParms.ncbas = 0;
1416         henumParms.fid = &fid;
1417         henumParms.thead = tthead;
1418         H_UNLOCK;
1419         h_Enumerate(MultiBreakVolumeLaterCallBack, (char *)&henumParms);
1420         H_LOCK;
1421         if (henumParms.ncbas) { /* do left-overs */
1422             struct AFSCBFids tf;
1423             tf.AFSCBFids_len = 1;
1424             tf.AFSCBFids_val = &fid;
1425
1426             MultiBreakCallBack_r(henumParms.cba, henumParms.ncbas, &tf, 0);
1427             henumParms.ncbas = 0;
1428         }
1429     }
1430     H_UNLOCK;
1431
1432     /* Arrange to be called again */
1433     return 1;
1434 }
1435
1436 /*
1437  * Delete all timed-out call back entries (to be called periodically by file
1438  * server)
1439  */
1440 int
1441 CleanupTimedOutCallBacks(void)
1442 {
1443     H_LOCK;
1444     CleanupTimedOutCallBacks_r();
1445     H_UNLOCK;
1446     return 0;
1447 }
1448
1449 int
1450 CleanupTimedOutCallBacks_r(void)
1451 {
1452     afs_uint32 now = CBtime(FT_ApproxTime());
1453     register afs_uint32 *thead;
1454     register struct CallBack *cb;
1455     register int ntimedout = 0;
1456     char hoststr[16];
1457
1458     while (tfirst <= now) {
1459         register int cbi;
1460         cbi = *(thead = THead(tfirst));
1461         if (cbi) {
1462             do {
1463                 cb = itocb(cbi);
1464                 cbi = cb->tnext;
1465                 ViceLog(8,
1466                         ("CCB: deleting timed out call back %x (%s:%d), (%u,%u,%u)\n",
1467                          h_itoh(cb->hhead)->host,
1468                          afs_inet_ntoa_r(h_itoh(cb->hhead)->host, hoststr),
1469                          h_itoh(cb->hhead)->port, itofe(cb->fhead)->volid,
1470                          itofe(cb->fhead)->vnode, itofe(cb->fhead)->unique));
1471                 HDel(cb);
1472                 CDel(cb, 1);
1473                 ntimedout++;
1474                 if (ntimedout > cbstuff.nblks) {
1475                     ViceLog(0, ("CCB: Internal Error -- shutting down...\n"));
1476                     DumpCallBackState();
1477                     ShutDownAndCore(PANIC);
1478                 }
1479             } while (cbi != *thead);
1480             *thead = 0;
1481         }
1482         tfirst++;
1483     }
1484     cbstuff.CBsTimedOut += ntimedout;
1485     ViceLog(7, ("CCB: deleted %d timed out callbacks\n", ntimedout));
1486     return (ntimedout > 0);
1487 }
1488
1489 /**
1490  * parameters to pass to lih*_r from h_Enumerate_r when trying to find a host
1491  * from which to clear callbacks.
1492  */
1493 struct lih_params {
1494     /**
1495      * Points to the least interesting host found; try to clear callbacks on
1496      * this host after h_Enumerate_r(lih*_r)'ing.
1497      */
1498     struct host *lih;
1499
1500     /**
1501      * The last host we got from lih*_r, but we couldn't clear its callbacks
1502      * for some reason. Choose the next-best host after this one (with the
1503      * current lih*_r, this means to only select hosts that have an ActiveCall
1504      * newer than lastlih).
1505      */
1506     struct host *lastlih;
1507 };
1508
1509 /* Value of host->refCount that allows us to reliably infer that
1510  * host may be held by some other thread */
1511 #define OTHER_MUSTHOLD_LIH 2
1512
1513 /* This version does not allow 'host' to be selected unless its ActiveCall 
1514  * is newer than 'params->lastlih' which is the host with the oldest
1515  * ActiveCall from the last pass (if it is provided).  We filter out any hosts
1516  * that are are held by other threads.
1517  *
1518  * There is a small problem here, but it may not be easily fixable. Say we
1519  * select some host A, and give it back to GetSomeSpace_r. GSS_r for some
1520  * reason cannot clear the callbacks on A, and so calls us again with
1521  * lastlih = A. Suppose there is another host B that has the same ActiveCall
1522  * time as A. We will now skip over host B, since
1523  * 'hostB->ActiveCall > hostA->ActiveCall' is not true. This could result in
1524  * us prematurely going to the GSS_r 2nd or 3rd pass, and making us a little
1525  * inefficient. This should be pretty rare, though, except perhaps in cases
1526  * with very small numbers of hosts.
1527  *
1528  * Also filter out any hosts with HOSTDELETED set. h_Enumerate_r should in
1529  * theory not give these to us anyway, but be paranoid.
1530  */
1531 static int
1532 lih0_r(register struct host *host, register int flags, void *rock)
1533 {
1534     struct lih_params *params = (struct lih_params *)rock;
1535
1536     if (host->cblist
1537         && (!(host->hostFlags & HOSTDELETED))
1538         && (host->refCount < OTHER_MUSTHOLD_LIH)
1539         && (!params->lih || host->ActiveCall < params->lih->ActiveCall)
1540         && (!params->lastlih || host->ActiveCall > params->lastlih->ActiveCall)) {
1541
1542         if (params->lih) {
1543             h_Release_r(params->lih); /* release prev host */
1544         }
1545
1546         h_Hold_r(host);
1547         params->lih = host;
1548     }
1549     return flags;
1550 }
1551
1552 /* same as lih0_r, except we do not prevent held hosts from being selected. */
1553 static int
1554 lih1_r(register struct host *host, register int flags, void *rock)
1555 {
1556     struct lih_params *params = (struct lih_params *)rock;
1557
1558     if (host->cblist
1559         && (!(host->hostFlags & HOSTDELETED))
1560         && (!params->lih || host->ActiveCall < params->lih->ActiveCall)
1561         && (!params->lastlih || host->ActiveCall > params->lastlih->ActiveCall)) {
1562
1563         if (params->lih) {
1564             h_Release_r(params->lih); /* release prev host */
1565         }
1566
1567         h_Hold_r(host);
1568         params->lih = host;
1569     }
1570     return flags;
1571 }
1572
1573 /* This could be upgraded to get more space each time */
1574 /* first pass: sequentially find the oldest host which isn't held by
1575                anyone for which we can clear callbacks;
1576                skipping 'hostp' */
1577 /* second pass: sequentially find the oldest host regardless of 
1578                whether or not the host is held; skipping 'hostp' */
1579 /* third pass: attempt to clear callbacks from 'hostp' */
1580 /* always called with hostp unlocked */
1581
1582 /* Note: hostlist is ordered most recently created host first and 
1583  * its order has no relationship to the most recently used. */
1584 extern struct host *hostList;
1585 static int
1586 GetSomeSpace_r(struct host *hostp, int locked)
1587 {
1588     struct host *hp;
1589     struct lih_params params;
1590     int i = 0;
1591
1592     cbstuff.GotSomeSpaces++;
1593     ViceLog(5,
1594             ("GSS: First looking for timed out call backs via CleanupCallBacks\n"));
1595     if (CleanupTimedOutCallBacks_r()) {
1596         cbstuff.GSS3++;
1597         return 0;
1598     }
1599
1600     i = 0;
1601     params.lastlih = NULL;
1602
1603     do {
1604         params.lih = NULL;
1605
1606         h_Enumerate_r(i == 0 ? lih0_r : lih1_r, hostList, &params);
1607
1608         hp = params.lih;
1609         if (params.lastlih) {
1610             h_Release_r(params.lastlih);
1611             params.lastlih = NULL;
1612         }
1613
1614         if (hp) {
1615             /* note that 'hp' was held by lih*_r; we will need to release it */
1616             cbstuff.GSS4++;
1617             if ((hp != hostp) && !ClearHostCallbacks_r(hp, 0 /* not locked or held */ )) {
1618                 h_Release_r(hp);
1619                 return 0;
1620             }
1621
1622             params.lastlih = hp;
1623             /* params.lastlih will be released on the next iteration, after
1624              * h_Enumerate_r */
1625
1626         } else {
1627             /*
1628              * Next time try getting callbacks from any host even if
1629              * it's held, since the only other option is starvation for
1630              * the file server (i.e. until the callback timeout arrives).
1631              */
1632             i++;
1633             params.lastlih = NULL;
1634             cbstuff.GSS1++;
1635             ViceLog(5,
1636                     ("GSS: Try harder for longest inactive host cnt= %d\n",
1637                      i));
1638         }
1639     } while (i < 2);
1640
1641     /* Could not obtain space from other hosts, clear hostp's callback state */
1642     cbstuff.GSS2++;
1643     if (!locked) {
1644         h_Lock_r(hostp);
1645     }
1646     ClearHostCallbacks_r(hostp, 1 /*already locked */ );
1647     if (!locked) {
1648         h_Unlock_r(hostp);
1649     }
1650     return 0;
1651 }
1652
1653 /* locked - set if caller has already locked the host */
1654 static int
1655 ClearHostCallbacks_r(struct host *hp, int locked)
1656 {
1657     int code;
1658     char hoststr[16];
1659     struct rx_connection *cb_conn = NULL;
1660
1661     ViceLog(5,
1662             ("GSS: Delete longest inactive host %p (%s:%d)\n",
1663              hp, afs_inet_ntoa_r(hp->host, hoststr), ntohs(hp->port)));
1664
1665     if ((hp->hostFlags & HOSTDELETED)) {
1666         /* hp could go away after reacquiring H_LOCK in h_NBLock_r, so we can't
1667          * really use it; its callbacks will get cleared anyway when
1668          * h_TossStuff_r gets its hands on it */
1669         return 1;
1670     }
1671
1672     h_Hold_r(hp);
1673
1674     /** Try a non-blocking lock. If the lock is already held return
1675       * after releasing hold on hp
1676       */
1677     if (!locked) {
1678         if (h_NBLock_r(hp)) {
1679             h_Release_r(hp);
1680             return 1;
1681         }
1682     }
1683     if (hp->Console & 2) {
1684         /*
1685          * If the special console field is set it means that a thread
1686          * is waiting in AddCallBack1 after it set pointers to the
1687          * file entry and/or callback entry. Because of the bogus
1688          * usage of h_hold it won't prevent from another thread, this
1689          * one, to remove all the callbacks so just to be safe we keep
1690          * a reference. NOTE, on the last phase we'll free the calling
1691          * host's callbacks but that's ok...
1692          */
1693         cbstuff.GSS5++;
1694     }
1695     DeleteAllCallBacks_r(hp, 1);
1696     if (hp->hostFlags & VENUSDOWN) {
1697         hp->hostFlags &= ~RESETDONE;    /* remember that we must do a reset */
1698     } else if (!(hp->hostFlags & HOSTDELETED)) {
1699         /* host is up, try a call */
1700         hp->hostFlags &= ~ALTADDR;      /* alternate addresses are invalid */
1701         cb_conn = hp->callback_rxcon;
1702         rx_GetConnection(hp->callback_rxcon);
1703         if (hp->interface) {
1704             H_UNLOCK;
1705             code =
1706                 RXAFSCB_InitCallBackState3(cb_conn, &FS_HostUUID);
1707         } else {
1708             H_UNLOCK;
1709             code = RXAFSCB_InitCallBackState(cb_conn);
1710         }
1711         rx_PutConnection(cb_conn);
1712         cb_conn = NULL;
1713         H_LOCK;
1714         hp->hostFlags |= ALTADDR;       /* alternate addresses are valid */
1715         if (code) {
1716             /* failed, mark host down and need reset */
1717             hp->hostFlags |= VENUSDOWN;
1718             hp->hostFlags &= ~RESETDONE;
1719         } else {
1720             /* reset succeeded, we're done */
1721             hp->hostFlags |= RESETDONE;
1722         }
1723     }
1724     if (!locked)
1725         h_Unlock_r(hp);
1726     h_Release_r(hp);
1727
1728     return 0;
1729 }
1730 #endif /* INTERPRET_DUMP */
1731
1732
1733 int
1734 PrintCallBackStats(void)
1735 {
1736     fprintf(stderr,
1737             "%d add CB, %d break CB, %d del CB, %d del FE, %d CB's timed out, %d space reclaim, %d del host\n",
1738             cbstuff.AddCallBacks, cbstuff.BreakCallBacks,
1739             cbstuff.DeleteCallBacks, cbstuff.DeleteFiles, cbstuff.CBsTimedOut,
1740             cbstuff.GotSomeSpaces, cbstuff.DeleteAllCallBacks);
1741     fprintf(stderr, "%d CBs, %d FEs, (%d of total of %d 16-byte blocks)\n",
1742             cbstuff.nCBs, cbstuff.nFEs, cbstuff.nCBs + cbstuff.nFEs,
1743             cbstuff.nblks);
1744
1745     return 0;
1746 }
1747
1748 #define MAGIC 0x12345678        /* To check byte ordering of dump when it is read in */
1749 #define MAGICV2 0x12345679      /* To check byte ordering & version of dump when it is read in */
1750
1751
1752 #ifndef INTERPRET_DUMP
1753
1754 #ifdef AFS_DEMAND_ATTACH_FS
1755 /*
1756  * demand attach fs
1757  * callback state serialization
1758  */
1759 static int cb_stateSaveTimeouts(struct fs_dump_state * state);
1760 static int cb_stateSaveFEHash(struct fs_dump_state * state);
1761 static int cb_stateSaveFEs(struct fs_dump_state * state);
1762 static int cb_stateSaveFE(struct fs_dump_state * state, struct FileEntry * fe);
1763 static int cb_stateRestoreTimeouts(struct fs_dump_state * state);
1764 static int cb_stateRestoreFEHash(struct fs_dump_state * state);
1765 static int cb_stateRestoreFEs(struct fs_dump_state * state);
1766 static int cb_stateRestoreFE(struct fs_dump_state * state);
1767 static int cb_stateRestoreCBs(struct fs_dump_state * state, struct FileEntry * fe, 
1768                               struct iovec * iov, int niovecs);
1769
1770 static int cb_stateVerifyFEHash(struct fs_dump_state * state);
1771 static int cb_stateVerifyFE(struct fs_dump_state * state, struct FileEntry * fe);
1772 static int cb_stateVerifyFCBList(struct fs_dump_state * state, struct FileEntry * fe);
1773 static int cb_stateVerifyTimeoutQueues(struct fs_dump_state * state);
1774
1775 static int cb_stateFEToDiskEntry(struct FileEntry *, struct FEDiskEntry *);
1776 static int cb_stateDiskEntryToFE(struct fs_dump_state * state,
1777                                  struct FEDiskEntry *, struct FileEntry *);
1778
1779 static int cb_stateCBToDiskEntry(struct CallBack *, struct CBDiskEntry *);
1780 static int cb_stateDiskEntryToCB(struct fs_dump_state * state,
1781                                  struct CBDiskEntry *, struct CallBack *);
1782
1783 static int cb_stateFillHeader(struct callback_state_header * hdr);
1784 static int cb_stateCheckHeader(struct callback_state_header * hdr);
1785
1786 static int cb_stateAllocMap(struct fs_dump_state * state);
1787
1788 int
1789 cb_stateSave(struct fs_dump_state * state)
1790 {
1791     int ret = 0;
1792
1793     AssignInt64(state->eof_offset, &state->hdr->cb_offset);
1794
1795     /* invalidate callback state header */
1796     memset(state->cb_hdr, 0, sizeof(struct callback_state_header));
1797     if (fs_stateWriteHeader(state, &state->hdr->cb_offset, state->cb_hdr,
1798                             sizeof(struct callback_state_header))) {
1799         ret = 1;
1800         goto done;
1801     }
1802
1803     fs_stateIncEOF(state, sizeof(struct callback_state_header));
1804
1805     /* dump timeout state */
1806     if (cb_stateSaveTimeouts(state)) {
1807         ret = 1;
1808         goto done;
1809     }
1810
1811     /* dump fe hashtable state */
1812     if (cb_stateSaveFEHash(state)) {
1813         ret = 1;
1814         goto done;
1815     }
1816
1817     /* dump callback state */
1818     if (cb_stateSaveFEs(state)) {
1819         ret = 1;
1820         goto done;
1821     }
1822
1823     /* write the callback state header to disk */
1824     cb_stateFillHeader(state->cb_hdr);
1825     if (fs_stateWriteHeader(state, &state->hdr->cb_offset, state->cb_hdr,
1826                             sizeof(struct callback_state_header))) {
1827         ret = 1;
1828         goto done;
1829     }
1830     
1831  done:
1832     return ret;
1833 }
1834
1835 int
1836 cb_stateRestore(struct fs_dump_state * state)
1837 {
1838     int ret = 0;
1839
1840     if (fs_stateReadHeader(state, &state->hdr->cb_offset, state->cb_hdr,
1841                            sizeof(struct callback_state_header))) {
1842         ret = 1;
1843         goto done;
1844     }
1845
1846     if (cb_stateCheckHeader(state->cb_hdr)) {
1847         ret = 1;
1848         goto done;
1849     }
1850
1851     if (cb_stateAllocMap(state)) {
1852         ret = 1;
1853         goto done;
1854     }
1855
1856     if (cb_stateRestoreTimeouts(state)) {
1857         ret = 1;
1858         goto done;
1859     }
1860
1861     if (cb_stateRestoreFEHash(state)) {
1862         ret = 1;
1863         goto done;
1864     }
1865
1866     /* restore FEs and CBs from disk */
1867     if (cb_stateRestoreFEs(state)) {
1868         ret = 1;
1869         goto done;
1870     }
1871
1872     /* restore the timeout queue heads */
1873     tfirst = state->cb_hdr->tfirst;
1874
1875  done:
1876     return ret;
1877 }
1878
1879 int
1880 cb_stateRestoreIndices(struct fs_dump_state * state)
1881 {
1882     int i, ret = 0;
1883     struct FileEntry * fe;
1884     struct CallBack * cb;
1885
1886     /* restore indices in the FileEntry structures */
1887     for (i = 1; i < state->fe_map.len; i++) {
1888         if (state->fe_map.entries[i].new_idx) {
1889             fe = itofe(state->fe_map.entries[i].new_idx);
1890
1891             /* restore the fe->fnext entry */
1892             if (fe_OldToNew(state, fe->fnext, &fe->fnext)) {
1893                 ret = 1;
1894                 goto done;
1895             }
1896
1897             /* restore the fe->firstcb entry */
1898             if (cb_OldToNew(state, fe->firstcb, &fe->firstcb)) {
1899                 ret = 1;
1900                 goto done;
1901             }
1902         }
1903     }
1904     
1905     /* restore indices in the CallBack structures */
1906     for (i = 1; i < state->cb_map.len; i++) {
1907         if (state->cb_map.entries[i].new_idx) {
1908             cb = itocb(state->cb_map.entries[i].new_idx);
1909
1910             /* restore the cb->cnext entry */
1911             if (cb_OldToNew(state, cb->cnext, &cb->cnext)) {
1912                 ret = 1;
1913                 goto done;
1914             }
1915             
1916             /* restore the cb->fhead entry */
1917             if (fe_OldToNew(state, cb->fhead, &cb->fhead)) {
1918                 ret = 1;
1919                 goto done;
1920             }
1921
1922             /* restore the cb->hhead entry */
1923             if (h_OldToNew(state, cb->hhead, &cb->hhead)) {
1924                 ret = 1;
1925                 goto done;
1926             }
1927
1928             /* restore the cb->tprev entry */
1929             if (cb_OldToNew(state, cb->tprev, &cb->tprev)) {
1930                 ret = 1;
1931                 goto done;
1932             }
1933
1934             /* restore the cb->tnext entry */
1935             if (cb_OldToNew(state, cb->tnext, &cb->tnext)) {
1936                 ret = 1;
1937                 goto done;
1938             }
1939
1940             /* restore the cb->hprev entry */
1941             if (cb_OldToNew(state, cb->hprev, &cb->hprev)) {
1942                 ret = 1;
1943                 goto done;
1944             }
1945
1946             /* restore the cb->hnext entry */
1947             if (cb_OldToNew(state, cb->hnext, &cb->hnext)) {
1948                 ret = 1;
1949                 goto done;
1950             }
1951         }
1952     }
1953
1954     /* restore the timeout queue head indices */
1955     for (i = 0; i < state->cb_timeout_hdr->records; i++) {
1956         if (cb_OldToNew(state, timeout[i], &timeout[i])) {
1957             ret = 1;
1958             goto done;
1959         }
1960     }
1961
1962     /* restore the FE hash table queue heads */
1963     for (i = 0; i < state->cb_fehash_hdr->records; i++) {
1964         if (fe_OldToNew(state, HashTable[i], &HashTable[i])) {
1965             ret = 1;
1966             goto done;
1967         }
1968     }
1969
1970  done:
1971     return ret;
1972 }
1973
1974 int
1975 cb_stateVerify(struct fs_dump_state * state)
1976 {
1977     int ret = 0;
1978
1979     if (cb_stateVerifyFEHash(state)) {
1980         ret = 1;
1981     }
1982
1983     if (cb_stateVerifyTimeoutQueues(state)) {
1984         ret = 1;
1985     }
1986
1987     return ret;
1988 }
1989
1990 static int
1991 cb_stateVerifyFEHash(struct fs_dump_state * state)
1992 {
1993     int ret = 0, i;
1994     struct FileEntry * fe;
1995     afs_uint32 fei, chain_len;
1996
1997     for (i = 0; i < FEHASH_SIZE; i++) {
1998         chain_len = 0;
1999         for (fei = HashTable[i], fe = itofe(fei);
2000              fe;
2001              fei = fe->fnext, fe = itofe(fei)) {
2002             if (fei > cbstuff.nblks) {
2003                 ViceLog(0, ("cb_stateVerifyFEHash: error: index out of range (fei=%d)\n", fei));
2004                 ret = 1;
2005                 break;
2006             }
2007             if (cb_stateVerifyFE(state, fe)) {
2008                 ret = 1;
2009             }
2010             if (chain_len > FS_STATE_FE_MAX_HASH_CHAIN_LEN) {
2011                 ViceLog(0, ("cb_stateVerifyFEHash: error: hash chain %d length exceeds %d; assuming there's a loop\n",
2012                             i, FS_STATE_FE_MAX_HASH_CHAIN_LEN));
2013                 ret = 1;
2014                 break;
2015             }
2016             chain_len++;
2017         }
2018     }
2019
2020     return ret;
2021 }
2022
2023 static int
2024 cb_stateVerifyFE(struct fs_dump_state * state, struct FileEntry * fe)
2025 {
2026     int ret = 0;
2027
2028     if ((fe->firstcb && !fe->ncbs) ||
2029         (!fe->firstcb && fe->ncbs)) {
2030         ViceLog(0, ("cb_stateVerifyFE: error: fe->firstcb does not agree with fe->ncbs (fei=%lu, fe->firstcb=%lu, fe->ncbs=%lu)\n",
2031                     afs_printable_uint32_lu(fetoi(fe)),
2032                     afs_printable_uint32_lu(fe->firstcb),
2033                     afs_printable_uint32_lu(fe->ncbs)));
2034         ret = 1;
2035     }
2036     if (cb_stateVerifyFCBList(state, fe)) {
2037         ViceLog(0, ("cb_stateVerifyFE: error: FCBList failed verification (fei=%lu)\n",
2038                     afs_printable_uint32_lu(fetoi(fe))));
2039         ret = 1;
2040     }
2041
2042     return ret;
2043 }
2044
2045 static int
2046 cb_stateVerifyFCBList(struct fs_dump_state * state, struct FileEntry * fe)
2047 {
2048     int ret = 0;
2049     afs_uint32 cbi, fei, chain_len = 0;
2050     struct CallBack * cb;
2051
2052     fei = fetoi(fe);
2053
2054     for (cbi = fe->firstcb, cb = itocb(cbi);
2055          cb;
2056          cbi = cb->cnext, cb = itocb(cbi)) {
2057         if (cbi > cbstuff.nblks) {
2058             ViceLog(0, ("cb_stateVerifyFCBList: error: list index out of range (cbi=%d, ncbs=%d)\n",
2059                         cbi, cbstuff.nblks));
2060             ret = 1;
2061             goto done;
2062         }
2063         if (cb->fhead != fei) {
2064             ViceLog(0, ("cb_stateVerifyFCBList: error: cb->fhead != fei (fei=%d, cb->fhead=%d)\n",
2065                         fei, cb->fhead));
2066             ret = 1;
2067         }
2068         if (chain_len > FS_STATE_FCB_MAX_LIST_LEN) {
2069             ViceLog(0, ("cb_stateVerifyFCBList: error: list length exceeds %d (fei=%d); assuming there's a loop\n",
2070                         FS_STATE_FCB_MAX_LIST_LEN, fei));
2071             ret = 1;
2072             goto done;
2073         }
2074         chain_len++;
2075     }
2076
2077     if (fe->ncbs != chain_len) {
2078         ViceLog(0, ("cb_stateVerifyFCBList: error: list length mismatch (len=%d, fe->ncbs=%d)\n",
2079                     chain_len, fe->ncbs));
2080         ret = 1;
2081     }
2082
2083  done:
2084     return ret;
2085 }
2086
2087 int
2088 cb_stateVerifyHCBList(struct fs_dump_state * state, struct host * host)
2089 {
2090     int ret = 0;
2091     afs_uint32 hi, chain_len, cbi;
2092     struct CallBack *cb, *ncb;
2093
2094     hi = h_htoi(host);
2095     chain_len = 0;
2096
2097     for (cbi = host->cblist, cb = itocb(cbi);
2098          cb;
2099          cbi = cb->hnext, cb = ncb) {
2100         if (chain_len && (host->cblist == cbi)) {
2101             /* we've wrapped around the circular list, and everything looks ok */
2102             break;
2103         }
2104         if (cb->hhead != hi) {
2105             ViceLog(0, ("cb_stateVerifyHCBList: error: incorrect cb->hhead (cbi=%d, h->index=%d, cb->hhead=%d)\n",
2106                         cbi, hi, cb->hhead));
2107             ret = 1;
2108         }
2109         if (!cb->hprev || !cb->hnext) {
2110             ViceLog(0, ("cb_stateVerifyHCBList: error: null index in circular list (cbi=%d, h->index=%d)\n",
2111                         cbi, hi));
2112             ret = 1;
2113             goto done;
2114         }
2115         if ((cb->hprev > cbstuff.nblks) ||
2116             (cb->hnext > cbstuff.nblks)) {
2117             ViceLog(0, ("cb_stateVerifyHCBList: error: list index out of range (cbi=%d, h->index=%d, cb->hprev=%d, cb->hnext=%d, nCBs=%d)\n",
2118                         cbi, hi, cb->hprev, cb->hnext, cbstuff.nblks));
2119             ret = 1;
2120             goto done;
2121         }
2122         ncb = itocb(cb->hnext);
2123         if (cbi != ncb->hprev) {
2124             ViceLog(0, ("cb_stateVerifyHCBList: error: corrupt linked list (cbi=%d, h->index=%d)\n",
2125                         cbi, hi));
2126             ret = 1;
2127             goto done;
2128         }
2129         if (chain_len > FS_STATE_HCB_MAX_LIST_LEN) {
2130             ViceLog(0, ("cb_stateVerifyFCBList: error: list length exceeds %d (h->index=%d); assuming there's a loop\n",
2131                         FS_STATE_HCB_MAX_LIST_LEN, hi));
2132             ret = 1;
2133             goto done;
2134         }
2135         chain_len++;
2136     }
2137
2138  done:
2139     return ret;
2140 }
2141
2142 static int
2143 cb_stateVerifyTimeoutQueues(struct fs_dump_state * state)
2144 {
2145     int ret = 0, i;
2146     afs_uint32 cbi, chain_len;
2147     struct CallBack *cb, *ncb;
2148
2149     for (i = 0; i < CB_NUM_TIMEOUT_QUEUES; i++) {
2150         chain_len = 0;
2151         for (cbi = timeout[i], cb = itocb(cbi);
2152              cb;
2153              cbi = cb->tnext, cb = ncb) {
2154             if (chain_len && (cbi == timeout[i])) {
2155                 /* we've wrapped around the circular list, and everything looks ok */
2156                 break;
2157             }
2158             if (cbi > cbstuff.nblks) {
2159                 ViceLog(0, ("cb_stateVerifyTimeoutQueues: error: list index out of range (cbi=%d, tindex=%d)\n",
2160                             cbi, i));
2161                 ret = 1;
2162                 break;
2163             }
2164             if (itot(cb->thead) != &timeout[i]) {
2165                 ViceLog(0, ("cb_stateVerifyTimeoutQueues: error: cb->thead points to wrong timeout queue (tindex=%d, cbi=%d, cb->thead=%d)\n",
2166                             i, cbi, cb->thead));
2167                 ret = 1;
2168             }
2169             if (!cb->tprev || !cb->tnext) {
2170                 ViceLog(0, ("cb_stateVerifyTimeoutQueues: null index in circular list (cbi=%d, tindex=%d)\n",
2171                             cbi, i));
2172                 ret = 1;
2173                 break;
2174             }
2175             if ((cb->tprev > cbstuff.nblks) ||
2176                 (cb->tnext > cbstuff.nblks)) {
2177                 ViceLog(0, ("cb_stateVerifyTimeoutQueues: list index out of range (cbi=%d, tindex=%d, cb->tprev=%d, cb->tnext=%d, nCBs=%d)\n",
2178                             cbi, i, cb->tprev, cb->tnext, cbstuff.nblks));
2179                 ret = 1;
2180                 break;
2181             }
2182             ncb = itocb(cb->tnext);
2183             if (cbi != ncb->tprev) {
2184                 ViceLog(0, ("cb_stateVerifyTimeoutQueues: corrupt linked list (cbi=%d, tindex=%d)\n",
2185                             cbi, i));
2186                 ret = 1;
2187                 break;
2188             }
2189             if (chain_len > FS_STATE_TCB_MAX_LIST_LEN) {
2190                 ViceLog(0, ("cb_stateVerifyTimeoutQueues: list length exceeds %d (tindex=%d); assuming there's a loop\n",
2191                             FS_STATE_TCB_MAX_LIST_LEN, i));
2192                 ret = 1;
2193                 break;
2194             }
2195             chain_len++;
2196         }
2197     }
2198
2199     return ret;
2200 }
2201
2202 static int
2203 cb_stateSaveTimeouts(struct fs_dump_state * state)
2204 {
2205     int ret = 0;
2206     struct iovec iov[2];
2207
2208     AssignInt64(state->eof_offset, &state->cb_hdr->timeout_offset);
2209
2210     memset(state->cb_timeout_hdr, 0, sizeof(struct callback_state_fehash_header));
2211     state->cb_timeout_hdr->magic = CALLBACK_STATE_TIMEOUT_MAGIC;
2212     state->cb_timeout_hdr->records = CB_NUM_TIMEOUT_QUEUES;
2213     state->cb_timeout_hdr->len = sizeof(struct callback_state_timeout_header) +
2214         (state->cb_timeout_hdr->records * sizeof(afs_uint32));
2215
2216     iov[0].iov_base = (char *)state->cb_timeout_hdr;
2217     iov[0].iov_len = sizeof(struct callback_state_timeout_header);
2218     iov[1].iov_base = (char *)timeout;
2219     iov[1].iov_len = sizeof(timeout);
2220
2221     if (fs_stateSeek(state, &state->cb_hdr->timeout_offset)) {
2222         ret = 1;
2223         goto done;
2224     }
2225
2226     if (fs_stateWriteV(state, iov, 2)) {
2227         ret = 1;
2228         goto done;
2229     }
2230
2231     fs_stateIncEOF(state, state->cb_timeout_hdr->len);
2232
2233  done:
2234     return ret;
2235 }
2236
2237 static int
2238 cb_stateRestoreTimeouts(struct fs_dump_state * state)
2239 {
2240     int ret = 0, len;
2241
2242     if (fs_stateReadHeader(state, &state->cb_hdr->timeout_offset,
2243                            state->cb_timeout_hdr, 
2244                            sizeof(struct callback_state_timeout_header))) {
2245         ret = 1;
2246         goto done;
2247     }
2248
2249     if (state->cb_timeout_hdr->magic != CALLBACK_STATE_TIMEOUT_MAGIC) {
2250         ret = 1;
2251         goto done;
2252     }
2253     if (state->cb_timeout_hdr->records != CB_NUM_TIMEOUT_QUEUES) {
2254         ret = 1;
2255         goto done;
2256     }
2257
2258     len = state->cb_timeout_hdr->records * sizeof(afs_uint32);
2259
2260     if (state->cb_timeout_hdr->len !=
2261         (sizeof(struct callback_state_timeout_header) + len)) {
2262         ret = 1;
2263         goto done;
2264     }
2265
2266     if (fs_stateRead(state, timeout, len)) {
2267         ret = 1;
2268         goto done;
2269     }
2270
2271  done:
2272     return ret;
2273 }
2274
2275 static int
2276 cb_stateSaveFEHash(struct fs_dump_state * state)
2277 {
2278     int ret = 0;
2279     struct iovec iov[2];
2280
2281     AssignInt64(state->eof_offset, &state->cb_hdr->fehash_offset);
2282
2283     memset(state->cb_fehash_hdr, 0, sizeof(struct callback_state_fehash_header));
2284     state->cb_fehash_hdr->magic = CALLBACK_STATE_FEHASH_MAGIC;
2285     state->cb_fehash_hdr->records = FEHASH_SIZE;
2286     state->cb_fehash_hdr->len = sizeof(struct callback_state_fehash_header) +
2287         (state->cb_fehash_hdr->records * sizeof(afs_uint32));
2288
2289     iov[0].iov_base = (char *)state->cb_fehash_hdr;
2290     iov[0].iov_len = sizeof(struct callback_state_fehash_header);
2291     iov[1].iov_base = (char *)HashTable;
2292     iov[1].iov_len = sizeof(HashTable);
2293
2294     if (fs_stateSeek(state, &state->cb_hdr->fehash_offset)) {
2295         ret = 1;
2296         goto done;
2297     }
2298
2299     if (fs_stateWriteV(state, iov, 2)) {
2300         ret = 1;
2301         goto done;
2302     }
2303
2304     fs_stateIncEOF(state, state->cb_fehash_hdr->len);
2305
2306  done:
2307     return ret;
2308 }
2309
2310 static int
2311 cb_stateRestoreFEHash(struct fs_dump_state * state)
2312 {
2313     int ret = 0, len;
2314
2315     if (fs_stateReadHeader(state, &state->cb_hdr->fehash_offset,
2316                            state->cb_fehash_hdr, 
2317                            sizeof(struct callback_state_fehash_header))) {
2318         ret = 1;
2319         goto done;
2320     }
2321
2322     if (state->cb_fehash_hdr->magic != CALLBACK_STATE_FEHASH_MAGIC) {
2323         ret = 1;
2324         goto done;
2325     }
2326     if (state->cb_fehash_hdr->records != FEHASH_SIZE) {
2327         ret = 1;
2328         goto done;
2329     }
2330
2331     len = state->cb_fehash_hdr->records * sizeof(afs_uint32);
2332
2333     if (state->cb_fehash_hdr->len !=
2334         (sizeof(struct callback_state_fehash_header) + len)) {
2335         ret = 1;
2336         goto done;
2337     }
2338
2339     if (fs_stateRead(state, HashTable, len)) {
2340         ret = 1;
2341         goto done;
2342     }
2343
2344  done:
2345     return ret;
2346 }
2347
2348 static int
2349 cb_stateSaveFEs(struct fs_dump_state * state)
2350 {
2351     int ret = 0;
2352     register int fei, hash;
2353     register struct FileEntry *fe;
2354
2355     AssignInt64(state->eof_offset, &state->cb_hdr->fe_offset);
2356
2357     for (hash = 0; hash < FEHASH_SIZE ; hash++) {
2358         for (fei = HashTable[hash]; fei; fei = fe->fnext) {
2359             fe = itofe(fei);
2360             if (cb_stateSaveFE(state, fe)) {
2361                 ret = 1;
2362                 goto done;
2363             }
2364         }
2365     }
2366
2367  done:
2368     return ret;
2369 }
2370
2371 static int
2372 cb_stateRestoreFEs(struct fs_dump_state * state)
2373 {
2374     int count, nFEs, ret = 0;
2375
2376     nFEs = state->cb_hdr->nFEs;
2377
2378     for (count = 0; count < nFEs; count++) {
2379         if (cb_stateRestoreFE(state)) {
2380             ret = 1;
2381             goto done;
2382         }
2383     }
2384
2385  done:
2386     return ret;
2387 }
2388
2389 static int
2390 cb_stateSaveFE(struct fs_dump_state * state, struct FileEntry * fe)
2391 {
2392     int ret = 0, iovcnt, cbi, written = 0;
2393     afs_uint32 fei;
2394     struct callback_state_entry_header hdr;
2395     struct FEDiskEntry fedsk;
2396     struct CBDiskEntry cbdsk[16];
2397     struct iovec iov[16];
2398     struct CallBack *cb;
2399
2400     fei = fetoi(fe);
2401     if (fei > state->cb_hdr->fe_max) {
2402         state->cb_hdr->fe_max = fei;
2403     }
2404
2405     memset(&hdr, 0, sizeof(struct callback_state_entry_header));
2406
2407     if (cb_stateFEToDiskEntry(fe, &fedsk)) {
2408         ret = 1;
2409         goto done;
2410     }
2411
2412     iov[0].iov_base = (char *)&hdr;
2413     iov[0].iov_len = sizeof(hdr);
2414     iov[1].iov_base = (char *)&fedsk;
2415     iov[1].iov_len = sizeof(struct FEDiskEntry);
2416     iovcnt = 2;
2417
2418     for (cbi = fe->firstcb, cb = itocb(cbi); 
2419          cb != NULL; 
2420          cbi = cb->cnext, cb = itocb(cbi), hdr.nCBs++) {
2421         if (cbi > state->cb_hdr->cb_max) {
2422             state->cb_hdr->cb_max = cbi;
2423         }
2424         if (cb_stateCBToDiskEntry(cb, &cbdsk[iovcnt])) {
2425             ret = 1;
2426             goto done;
2427         }
2428         cbdsk[iovcnt].index = cbi;
2429         iov[iovcnt].iov_base = (char *)&cbdsk[iovcnt];
2430         iov[iovcnt].iov_len = sizeof(struct CBDiskEntry);
2431         iovcnt++;
2432         if ((iovcnt == 16) || (!cb->cnext)) {
2433             if (fs_stateWriteV(state, iov, iovcnt)) {
2434                 ret = 1;
2435                 goto done;
2436             }
2437             written = 1;
2438             iovcnt = 0;
2439         }
2440     }
2441
2442     hdr.magic = CALLBACK_STATE_ENTRY_MAGIC;
2443     hdr.len = sizeof(hdr) + sizeof(struct FEDiskEntry) + 
2444         (hdr.nCBs * sizeof(struct CBDiskEntry));
2445
2446     if (!written) {
2447         if (fs_stateWriteV(state, iov, iovcnt)) {
2448             ret = 1;
2449             goto done;
2450         }
2451     } else {
2452         if (fs_stateWriteHeader(state, &state->eof_offset, &hdr, sizeof(hdr))) {
2453             ret = 1;
2454             goto done;
2455         }
2456     }
2457
2458     fs_stateIncEOF(state, hdr.len);
2459
2460     if (written) {
2461         if (fs_stateSeek(state, &state->eof_offset)) {
2462             ret = 1;
2463             goto done;
2464         }
2465     }
2466
2467     state->cb_hdr->nFEs++;
2468     state->cb_hdr->nCBs += hdr.nCBs;
2469
2470  done:
2471     return ret;
2472 }
2473
2474 static int
2475 cb_stateRestoreFE(struct fs_dump_state * state)
2476 {
2477     int ret = 0, iovcnt, nCBs;
2478     struct callback_state_entry_header hdr;
2479     struct FEDiskEntry fedsk;
2480     struct CBDiskEntry cbdsk[16];
2481     struct iovec iov[16];
2482     struct FileEntry * fe;
2483
2484     iov[0].iov_base = (char *)&hdr;
2485     iov[0].iov_len = sizeof(hdr);
2486     iov[1].iov_base = (char *)&fedsk;
2487     iov[1].iov_len = sizeof(fedsk);
2488     iovcnt = 2;
2489
2490     if (fs_stateReadV(state, iov, iovcnt)) {
2491         ret = 1;
2492         goto done;
2493     }
2494
2495     if (hdr.magic != CALLBACK_STATE_ENTRY_MAGIC) {
2496         ret = 1;
2497         goto done;
2498     }
2499
2500     fe = GetFE();
2501     if (fe == NULL) {
2502         ViceLog(0, ("cb_stateRestoreFE: ran out of free FileEntry structures\n"));
2503         ret = 1;
2504         goto done;
2505     }
2506
2507     if (cb_stateDiskEntryToFE(state, &fedsk, fe)) {
2508         ret = 1;
2509         goto done;
2510     }
2511
2512     if (hdr.nCBs) {
2513         for (iovcnt = 0, nCBs = 0;
2514              nCBs < hdr.nCBs;
2515              nCBs++) {
2516             iov[iovcnt].iov_base = (char *)&cbdsk[iovcnt];
2517             iov[iovcnt].iov_len = sizeof(struct CBDiskEntry);
2518             iovcnt++;
2519             if ((iovcnt == 16) || (nCBs == hdr.nCBs - 1)) {
2520                 if (fs_stateReadV(state, iov, iovcnt)) {
2521                     ret = 1;
2522                     goto done;
2523                 }
2524                 if (cb_stateRestoreCBs(state, fe, iov, iovcnt)) {
2525                     ret = 1;
2526                     goto done;
2527                 }
2528                 iovcnt = 0;
2529             }
2530         }
2531     }
2532     
2533  done:
2534     return ret;
2535 }
2536
2537 static int
2538 cb_stateRestoreCBs(struct fs_dump_state * state, struct FileEntry * fe, 
2539                    struct iovec * iov, int niovecs)
2540 {
2541     int ret = 0, idx;
2542     register struct CallBack * cb;
2543     struct CBDiskEntry * cbdsk;
2544     afs_uint32 fei;
2545
2546     fei = fetoi(fe);
2547
2548     for (idx = 0; idx < niovecs; idx++) {
2549         cbdsk = (struct CBDiskEntry *) iov[idx].iov_base;
2550         if ((cb = GetCB()) == NULL) {
2551             ViceLog(0, ("cb_stateRestoreCBs: ran out of free CallBack structures\n"));
2552             ret = 1;
2553             goto done;
2554         }
2555         if (cb_stateDiskEntryToCB(state, cbdsk, cb)) {
2556             ViceLog(0, ("cb_stateRestoreCBs: corrupt CallBack disk entry\n"));
2557             ret = 1;
2558             goto done;
2559         }
2560     }
2561
2562  done:
2563     return ret;
2564 }
2565
2566
2567 static int
2568 cb_stateFillHeader(struct callback_state_header * hdr)
2569 {
2570     hdr->stamp.magic = CALLBACK_STATE_MAGIC;
2571     hdr->stamp.version = CALLBACK_STATE_VERSION;
2572     hdr->tfirst = tfirst;
2573     return 0;
2574 }
2575
2576 static int
2577 cb_stateCheckHeader(struct callback_state_header * hdr)
2578 {
2579     int ret = 0;
2580
2581     if (hdr->stamp.magic != CALLBACK_STATE_MAGIC) {
2582         ret = 1;
2583     } else if (hdr->stamp.version != CALLBACK_STATE_VERSION) {
2584         ret = 1;
2585     } else if ((hdr->nFEs > cbstuff.nblks) || (hdr->nCBs > cbstuff.nblks)) {
2586         ViceLog(0, ("cb_stateCheckHeader: saved callback state larger than callback memory allocation\n"));
2587         ret = 1;
2588     }
2589     return ret;
2590 }
2591
2592 /* disk entry conversion routines */
2593 static int
2594 cb_stateFEToDiskEntry(struct FileEntry * in, struct FEDiskEntry * out)
2595 {
2596     memcpy(&out->fe, in, sizeof(struct FileEntry));
2597     out->index = fetoi(in);
2598     return 0;
2599 }
2600
2601 static int
2602 cb_stateDiskEntryToFE(struct fs_dump_state * state, 
2603                       struct FEDiskEntry * in, struct FileEntry * out)
2604 {
2605     int ret = 0;
2606
2607     memcpy(out, &in->fe, sizeof(struct FileEntry));
2608
2609     /* setup FE map entry */
2610     if (!in->index || (in->index >= state->fe_map.len)) {
2611         ViceLog(0, ("cb_stateDiskEntryToFE: index (%d) out of range",
2612                     in->index));
2613         ret = 1;
2614         goto done;
2615     }
2616     state->fe_map.entries[in->index].old_idx = in->index;
2617     state->fe_map.entries[in->index].new_idx = fetoi(out);
2618
2619  done:
2620     return ret;
2621 }
2622
2623 static int
2624 cb_stateCBToDiskEntry(struct CallBack * in, struct CBDiskEntry * out)
2625 {
2626     memcpy(&out->cb, in, sizeof(struct CallBack));
2627     out->index = cbtoi(in);
2628     return 0;
2629 }
2630
2631 static int
2632 cb_stateDiskEntryToCB(struct fs_dump_state * state,
2633                       struct CBDiskEntry * in, struct CallBack * out)
2634 {
2635     int ret = 0;
2636
2637     memcpy(out, &in->cb, sizeof(struct CallBack));
2638
2639     /* setup CB map entry */
2640     if (!in->index || (in->index >= state->cb_map.len)) {
2641         ViceLog(0, ("cb_stateDiskEntryToCB: index (%d) out of range\n",
2642                     in->index));
2643         ret = 1;
2644         goto done;
2645     }
2646     state->cb_map.entries[in->index].old_idx = in->index;
2647     state->cb_map.entries[in->index].new_idx = cbtoi(out);
2648
2649  done:
2650     return ret;
2651 }
2652
2653 /* index map routines */
2654 static int
2655 cb_stateAllocMap(struct fs_dump_state * state)
2656 {
2657     state->fe_map.len = state->cb_hdr->fe_max + 1;
2658     state->cb_map.len = state->cb_hdr->cb_max + 1;
2659     state->fe_map.entries = (struct idx_map_entry_t *)
2660         calloc(state->fe_map.len, sizeof(struct idx_map_entry_t));
2661     state->cb_map.entries = (struct idx_map_entry_t *)
2662         calloc(state->cb_map.len, sizeof(struct idx_map_entry_t));
2663     return ((state->fe_map.entries != NULL) && (state->cb_map.entries != NULL)) ? 0 : 1;
2664 }
2665
2666 int
2667 fe_OldToNew(struct fs_dump_state * state, afs_uint32 old, afs_uint32 * new)
2668 {
2669     int ret = 0;
2670
2671     /* FEs use a one-based indexing system, so old==0 implies no mapping */
2672     if (!old) {
2673         *new = 0;
2674         goto done;
2675     }
2676
2677     if (old >= state->fe_map.len) {
2678         ViceLog(0, ("fe_OldToNew: index %d is out of range\n", old));
2679         ret = 1;
2680     } else if (state->fe_map.entries[old].old_idx != old) { /* sanity check */
2681         ViceLog(0, ("fe_OldToNew: index %d points to an invalid FileEntry record\n", old));
2682         ret = 1;
2683     } else {
2684         *new = state->fe_map.entries[old].new_idx;
2685     }
2686
2687  done:
2688     return ret;
2689 }
2690
2691 int
2692 cb_OldToNew(struct fs_dump_state * state, afs_uint32 old, afs_uint32 * new)
2693 {
2694     int ret = 0;
2695
2696     /* CBs use a one-based indexing system, so old==0 implies no mapping */
2697     if (!old) {
2698         *new = 0;
2699         goto done;
2700     }
2701
2702     if (old >= state->cb_map.len) {
2703         ViceLog(0, ("cb_OldToNew: index %d is out of range\n", old));
2704         ret = 1;
2705     } else if (state->cb_map.entries[old].old_idx != old) { /* sanity check */
2706         ViceLog(0, ("cb_OldToNew: index %d points to an invalid CallBack record\n", old));
2707         ret = 1;
2708     } else {
2709         *new = state->cb_map.entries[old].new_idx;
2710     }
2711
2712  done:
2713     return ret;
2714 }
2715 #endif /* AFS_DEMAND_ATTACH_FS */
2716
2717 int
2718 DumpCallBackState(void)
2719 {
2720     int fd, oflag;
2721     afs_uint32 magic = MAGICV2, now = (afs_int32) FT_ApproxTime(), freelisthead;
2722
2723     oflag = O_WRONLY | O_CREAT | O_TRUNC;
2724 #ifdef AFS_NT40_ENV
2725     oflag |= O_BINARY;
2726 #endif
2727     fd = open(AFSDIR_SERVER_CBKDUMP_FILEPATH, oflag, 0666);
2728     if (fd < 0) {
2729         ViceLog(0,
2730                 ("Couldn't create callback dump file %s\n",
2731                  AFSDIR_SERVER_CBKDUMP_FILEPATH));
2732         return 0;
2733     }
2734     (void)write(fd, &magic, sizeof(magic));
2735     (void)write(fd, &now, sizeof(now));
2736     (void)write(fd, &cbstuff, sizeof(cbstuff));
2737     (void)write(fd, TimeOuts, sizeof(TimeOuts));
2738     (void)write(fd, timeout, sizeof(timeout));
2739     (void)write(fd, &tfirst, sizeof(tfirst));
2740     freelisthead = cbtoi((struct CallBack *)CBfree);
2741     (void)write(fd, &freelisthead, sizeof(freelisthead));       /* This is a pointer */
2742     freelisthead = fetoi((struct FileEntry *)FEfree);
2743     (void)write(fd, &freelisthead, sizeof(freelisthead));       /* This is a pointer */
2744     (void)write(fd, HashTable, sizeof(HashTable));
2745     (void)write(fd, &CB[1], sizeof(CB[1]) * cbstuff.nblks);     /* CB stuff */
2746     (void)write(fd, &FE[1], sizeof(FE[1]) * cbstuff.nblks);     /* FE stuff */
2747     close(fd);
2748
2749     return 0;
2750 }
2751
2752 #endif /* !INTERPRET_DUMP */
2753
2754 #ifdef INTERPRET_DUMP
2755
2756 /* This is only compiled in for the callback analyzer program */
2757 /* Returns the time of the dump */
2758 time_t
2759 ReadDump(char *file, int timebits)
2760 {
2761     int fd, oflag;
2762     afs_uint32 magic, freelisthead;
2763     afs_uint32 now;
2764 #ifdef AFS_64BIT_ENV
2765     afs_int64 now64;
2766 #endif
2767
2768     oflag = O_RDONLY;
2769 #ifdef AFS_NT40_ENV
2770     oflag |= O_BINARY;
2771 #endif
2772     fd = open(file, oflag);
2773     if (fd < 0) {
2774         fprintf(stderr, "Couldn't read dump file %s\n", file);
2775         exit(1);
2776     }
2777     read(fd, &magic, sizeof(magic));
2778     if (magic == MAGICV2) {
2779         timebits = 32;
2780     } else {
2781         if (magic != MAGIC) {
2782             fprintf(stderr,
2783                     "Magic number of %s is invalid.  You might be trying to\n",
2784                     file);
2785             fprintf(stderr,
2786                     "run this program on a machine type with a different byte ordering.\n");
2787             exit(1);
2788         }
2789     }
2790 #ifdef AFS_64BIT_ENV
2791     if (timebits == 64) {
2792         read(fd, &now64, sizeof(afs_int64));
2793         now = (afs_int32) now64;
2794     } else
2795 #endif
2796         read(fd, &now, sizeof(afs_int32));
2797     read(fd, &cbstuff, sizeof(cbstuff));
2798     read(fd, TimeOuts, sizeof(TimeOuts));
2799     read(fd, timeout, sizeof(timeout));
2800     read(fd, &tfirst, sizeof(tfirst));
2801     read(fd, &freelisthead, sizeof(freelisthead));
2802     CB = ((struct CallBack
2803            *)(calloc(cbstuff.nblks, sizeof(struct CallBack)))) - 1;
2804     FE = ((struct FileEntry
2805            *)(calloc(cbstuff.nblks, sizeof(struct FileEntry)))) - 1;
2806     CBfree = (struct CallBack *)itocb(freelisthead);
2807     read(fd, &freelisthead, sizeof(freelisthead));
2808     FEfree = (struct FileEntry *)itofe(freelisthead);
2809     read(fd, HashTable, sizeof(HashTable));
2810     read(fd, &CB[1], sizeof(CB[1]) * cbstuff.nblks);    /* CB stuff */
2811     read(fd, &FE[1], sizeof(FE[1]) * cbstuff.nblks);    /* FE stuff */
2812     if (close(fd)) {
2813         perror("Error reading dumpfile");
2814         exit(1);
2815     }
2816     return now;
2817 }
2818
2819 #ifdef AFS_NT40_ENV
2820 #include "AFS_component_version_number.h"
2821 #else
2822 #include "AFS_component_version_number.c"
2823 #endif
2824
2825 int
2826 main(int argc, char **argv)
2827 {
2828     int err = 0, cbi = 0, stats = 0, noptions = 0, all = 0, vol = 0, raw = 0;
2829     static AFSFid fid;
2830     register struct FileEntry *fe;
2831     register struct CallBack *cb;
2832     afs_int32 now;
2833     int timebits = 32;
2834     
2835     memset(&fid, 0, sizeof(fid));
2836     argc--;
2837     argv++;
2838     while (argc && **argv == '-') {
2839         noptions++;
2840         argc--;
2841         if (!strcmp(*argv, "-host")) {
2842             if (argc < 1) {
2843                 err++;
2844                 break;
2845             }
2846             argc--;
2847             cbi = atoi(*++argv);
2848         } else if (!strcmp(*argv, "-fid")) {
2849             if (argc < 2) {
2850                 err++;
2851                 break;
2852             }
2853             argc -= 3;
2854             fid.Volume = atoi(*++argv);
2855             fid.Vnode = atoi(*++argv);
2856             fid.Unique = atoi(*++argv);
2857         } else if (!strcmp(*argv, "-time")) {
2858             fprintf(stderr, "-time not supported\n");
2859             exit(1);
2860         } else if (!strcmp(*argv, "-stats")) {
2861             stats = 1;
2862         } else if (!strcmp(*argv, "-all")) {
2863             all = 1;
2864         } else if (!strcmp(*argv, "-raw")) {
2865             raw = 1;
2866         } else if (!strcmp(*argv, "-timebits")) {
2867             if (argc < 1) {
2868                 err++;
2869                 break;
2870             }
2871             argc--;
2872             timebits = atoi(*++argv);
2873             if ((timebits != 32)
2874 #ifdef AFS_64BIT_ENV
2875                 && (timebits != 64)
2876 #endif
2877                 ) 
2878                 err++;
2879         } else if (!strcmp(*argv, "-volume")) {
2880             if (argc < 1) {
2881                 err++;
2882                 break;
2883             }
2884             argc--;
2885             vol = atoi(*++argv);
2886         } else
2887             err++;
2888         argv++;
2889     }
2890     if (err || argc != 1) {
2891         fprintf(stderr,
2892                 "Usage: cbd [-host cbid] [-fid volume vnode] [-stats] [-all] [-timebits 32"
2893 #ifdef AFS_64BIT_ENV
2894                 "|64"
2895 #endif
2896                 "] callbackdumpfile\n");
2897         fprintf(stderr,
2898                 "[cbid is shown for each host in the hosts.dump file]\n");
2899         exit(1);
2900     }
2901     now = ReadDump(*argv, timebits);
2902     if (stats || noptions == 0) {
2903         time_t uxtfirst = UXtime(tfirst), tnow = now;
2904         printf("The time of the dump was %u %s", (unsigned int) now, ctime(&tnow));
2905         printf("The last time cleanup ran was %u %s", (unsigned int) uxtfirst,
2906                ctime(&uxtfirst));
2907         PrintCallBackStats();
2908     }
2909     if (all || vol) {
2910         int hash;
2911         afs_uint32 *feip;
2912         struct CallBack *cb;
2913         struct FileEntry *fe;
2914
2915         for (hash = 0; hash < FEHASH_SIZE; hash++) {
2916             for (feip = &HashTable[hash]; (fe = itofe(*feip));) {
2917                 if (!vol || (fe->volid == vol)) {
2918                     register struct CallBack *cbnext;
2919                     for (cb = itocb(fe->firstcb); cb; cb = cbnext) {
2920                         PrintCB(cb, now);
2921                         cbnext = itocb(cb->cnext);
2922                     }
2923                     *feip = fe->fnext;
2924                 } else {
2925                     feip = &fe->fnext;
2926                 }
2927             }
2928         }
2929     }
2930     if (cbi) {
2931         afs_uint32 cfirst = cbi;
2932         do {
2933             cb = itocb(cbi);
2934             PrintCB(cb, now);
2935             cbi = cb->hnext;
2936         } while (cbi != cfirst);
2937     }
2938     if (fid.Volume) {
2939         fe = FindFE(&fid);
2940         if (!fe) {
2941             printf("No callback entries for %u.%u\n", fid.Volume, fid.Vnode);
2942             exit(1);
2943         }
2944         cb = itocb(fe->firstcb);
2945         while (cb) {
2946             PrintCB(cb, now);
2947             cb = itocb(cb->cnext);
2948         }
2949     }
2950     if (raw) {
2951         afs_int32 *p, i;
2952         for (i = 1; i < cbstuff.nblks; i++) {
2953             p = (afs_int32 *) & FE[i];
2954             printf("%d:%12x%12x%12x%12x\n", i, p[0], p[1], p[2], p[3]);
2955         }
2956     }
2957     exit(0);
2958 }
2959
2960 void
2961 PrintCB(register struct CallBack *cb, afs_uint32 now)
2962 {
2963     struct FileEntry *fe = itofe(cb->fhead);
2964     time_t expires = TIndexToTime(cb->thead);
2965
2966     if (fe == NULL)
2967         return;
2968
2969     printf("vol=%u vn=%u cbs=%d hi=%d st=%d fest=%d, exp in %lu secs at %s",
2970            fe->volid, fe->vnode, fe->ncbs, cb->hhead, cb->status, fe->status,
2971            expires - now, ctime(&expires));
2972 }
2973
2974 #endif
2975
2976 #if     !defined(INTERPRET_DUMP)
2977 /*
2978 ** try breaking calbacks on afidp from host. Use multi_rx.
2979 ** return 0 on success, non-zero on failure
2980 */
2981 int
2982 MultiBreakCallBackAlternateAddress(struct host *host, struct AFSCBFids *afidp)
2983 {
2984     int retVal;
2985     H_LOCK;
2986     retVal = MultiBreakCallBackAlternateAddress_r(host, afidp);
2987     H_UNLOCK;
2988     return retVal;
2989 }
2990
2991 int
2992 MultiBreakCallBackAlternateAddress_r(struct host *host,
2993                                      struct AFSCBFids *afidp)
2994 {
2995     int i, j;
2996     struct rx_connection **conns;
2997     struct rx_connection *connSuccess = 0;
2998     struct AddrPort *interfaces;
2999     static struct rx_securityClass *sc = 0;
3000     static struct AFSCBs tc = { 0, 0 };
3001     char hoststr[16];
3002
3003     /* nothing more can be done */
3004     if (!host->interface)
3005         return 1;               /* failure */
3006
3007     /* the only address is the primary interface */
3008     if (host->interface->numberOfInterfaces <= 1)
3009         return 1;               /* failure */
3010
3011     /* initialise a security object only once */
3012     if (!sc)
3013         sc = rxnull_NewClientSecurityObject();
3014
3015     i = host->interface->numberOfInterfaces;
3016     interfaces = calloc(i, sizeof(struct AddrPort));
3017     conns = calloc(i, sizeof(struct rx_connection *));
3018     if (!interfaces || !conns) {
3019         ViceLog(0,
3020                 ("Failed malloc in MultiBreakCallBackAlternateAddress_r\n"));
3021         assert(0);
3022     }
3023
3024     /* initialize alternate rx connections */
3025     for (i = 0, j = 0; i < host->interface->numberOfInterfaces; i++) {
3026         /* this is the current primary address */
3027         if (host->host == host->interface->interface[i].addr &&
3028             host->port == host->interface->interface[i].port)
3029             continue;
3030
3031         interfaces[j] = host->interface->interface[i];
3032         conns[j] =
3033             rx_NewConnection(interfaces[j].addr, 
3034                              interfaces[j].port, 1, sc, 0);
3035         rx_SetConnDeadTime(conns[j], 2);
3036         rx_SetConnHardDeadTime(conns[j], AFS_HARDDEADTIME);
3037         j++;
3038     }
3039
3040     assert(j);                  /* at least one alternate address */
3041     ViceLog(125,
3042             ("Starting multibreakcall back on all addr for host %p (%s:%d)\n",
3043              host, afs_inet_ntoa_r(host->host, hoststr), ntohs(host->port)));
3044     H_UNLOCK;
3045     multi_Rx(conns, j) {
3046         multi_RXAFSCB_CallBack(afidp, &tc);
3047         if (!multi_error) {
3048             /* first success */
3049             H_LOCK;
3050             if (host->callback_rxcon)
3051                 rx_DestroyConnection(host->callback_rxcon);
3052             host->callback_rxcon = conns[multi_i];
3053             h_DeleteHostFromAddrHashTable_r(host->host, host->port, host);
3054             host->host = interfaces[multi_i].addr;
3055             host->port = interfaces[multi_i].port;
3056             h_AddHostToAddrHashTable_r(host->host, host->port, host);
3057             connSuccess = conns[multi_i];
3058             rx_SetConnDeadTime(host->callback_rxcon, 50);
3059             rx_SetConnHardDeadTime(host->callback_rxcon, AFS_HARDDEADTIME);
3060             ViceLog(125,
3061                     ("multibreakcall success with addr %s:%d\n",
3062                      afs_inet_ntoa_r(interfaces[multi_i].addr, hoststr),
3063                      ntohs(interfaces[multi_i].port)));
3064             H_UNLOCK;
3065             multi_Abort;
3066         }
3067     }
3068     multi_End_Ignore;
3069     H_LOCK;
3070     /* Destroy all connections except the one on which we succeeded */
3071     for (i = 0; i < j; i++)
3072         if (conns[i] != connSuccess)
3073             rx_DestroyConnection(conns[i]);
3074
3075     free(interfaces);
3076     free(conns);
3077
3078     if (connSuccess)
3079         return 0;               /* success */
3080     else
3081         return 1;               /* failure */
3082 }
3083
3084
3085 /*
3086 ** try multi_RX probes to host. 
3087 ** return 0 on success, non-0 on failure
3088 */
3089 int
3090 MultiProbeAlternateAddress_r(struct host *host)
3091 {
3092     int i, j;
3093     struct rx_connection **conns;
3094     struct rx_connection *connSuccess = 0;
3095     struct AddrPort *interfaces;
3096     static struct rx_securityClass *sc = 0;
3097     char hoststr[16];
3098
3099     /* nothing more can be done */
3100     if (!host->interface)
3101         return 1;               /* failure */
3102
3103     /* the only address is the primary interface */
3104     if (host->interface->numberOfInterfaces <= 1)
3105         return 1;               /* failure */
3106
3107     /* initialise a security object only once */
3108     if (!sc)
3109         sc = rxnull_NewClientSecurityObject();
3110
3111     i = host->interface->numberOfInterfaces;
3112     interfaces = calloc(i, sizeof(struct AddrPort));
3113     conns = calloc(i, sizeof(struct rx_connection *));
3114     if (!interfaces || !conns) {
3115         ViceLog(0, ("Failed malloc in MultiProbeAlternateAddress_r\n"));
3116         assert(0);
3117     }
3118
3119     /* initialize alternate rx connections */
3120     for (i = 0, j = 0; i < host->interface->numberOfInterfaces; i++) {
3121         /* this is the current primary address */
3122         if (host->host == host->interface->interface[i].addr &&
3123             host->port == host->interface->interface[i].port)
3124             continue;
3125
3126         interfaces[j] = host->interface->interface[i];
3127         conns[j] =
3128             rx_NewConnection(interfaces[j].addr, 
3129                              interfaces[j].port, 1, sc, 0);
3130         rx_SetConnDeadTime(conns[j], 2);
3131         rx_SetConnHardDeadTime(conns[j], AFS_HARDDEADTIME);
3132         j++;
3133     }
3134
3135     assert(j);                  /* at least one alternate address */
3136     ViceLog(125,
3137             ("Starting multiprobe on all addr for host %p (%s:%d)\n",
3138              host, afs_inet_ntoa_r(host->host, hoststr),
3139              ntohs(host->port)));
3140     H_UNLOCK;
3141     multi_Rx(conns, j) {
3142         multi_RXAFSCB_ProbeUuid(&host->interface->uuid);
3143         if (!multi_error) {
3144             /* first success */
3145             H_LOCK;
3146             if (host->callback_rxcon)
3147                 rx_DestroyConnection(host->callback_rxcon);
3148             host->callback_rxcon = conns[multi_i];
3149             h_DeleteHostFromAddrHashTable_r(host->host, host->port, host);
3150             host->host = interfaces[multi_i].addr;
3151             host->port = interfaces[multi_i].port;
3152             h_AddHostToAddrHashTable_r(host->host, host->port, host);
3153             connSuccess = conns[multi_i];
3154             rx_SetConnDeadTime(host->callback_rxcon, 50);
3155             rx_SetConnHardDeadTime(host->callback_rxcon, AFS_HARDDEADTIME);
3156             ViceLog(125,
3157                     ("multiprobe success with addr %s:%d\n",
3158                      afs_inet_ntoa_r(interfaces[multi_i].addr, hoststr),
3159                      ntohs(interfaces[multi_i].port)));
3160             H_UNLOCK;
3161             multi_Abort;
3162         } else {
3163             ViceLog(125,
3164                     ("multiprobe failure with addr %s:%d\n",
3165                      afs_inet_ntoa_r(interfaces[multi_i].addr, hoststr),
3166                      ntohs(interfaces[multi_i].port)));
3167             
3168             /* This is less than desirable but its the best we can do.
3169              * The AFS Cache Manager will return either 0 for a Uuid  
3170              * match and a 1 for a non-match.   If the error is 1 we 
3171              * therefore know that our mapping of IP address to Uuid 
3172              * is wrong.   We should attempt to find the correct
3173              * Uuid and fix the host tables.
3174              */
3175             if (multi_error == 1) {
3176                 /* remove the current alternate address from this host */
3177                 H_LOCK;
3178                 removeInterfaceAddr_r(host, interfaces[multi_i].addr, interfaces[multi_i].port);
3179                 H_UNLOCK;
3180             }
3181         }
3182 #ifdef AFS_DEMAND_ATTACH_FS
3183         /* try to bail ASAP if the fileserver is shutting down */
3184         FS_STATE_RDLOCK;
3185         if (fs_state.mode == FS_MODE_SHUTDOWN) {
3186             FS_STATE_UNLOCK;
3187             multi_Abort;
3188         }
3189         FS_STATE_UNLOCK;
3190 #endif
3191     }
3192     multi_End_Ignore;
3193     H_LOCK;
3194     /* Destroy all connections except the one on which we succeeded */
3195     for (i = 0; i < j; i++)
3196         if (conns[i] != connSuccess)
3197             rx_DestroyConnection(conns[i]);
3198
3199     free(interfaces);
3200     free(conns);
3201
3202     if (connSuccess)
3203         return 0;               /* success */
3204     else
3205         return 1;               /* failure */
3206 }
3207
3208 #endif /* !defined(INTERPRET_DUMP) */