3be47e11b16cee879ea596221f44cb63d7d05779
[openafs.git] / src / viced / callback.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  * 
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  *
9  * Portions Copyright (c) 2006 Sine Nomine Associates
10  */
11
12 /*
13  * NEW callback package callback.c (replaces vicecb.c)
14  * Updated call back routines, NOW with:
15  * 
16  *     Faster DeleteVenus (Now called DeleteAllCallBacks)
17  *     Call back breaking for volumes
18  *     Adaptive timeouts on call backs
19  *     Architected for Multi RPC
20  *     No locks (currently implicit vnode locks--these will go, to)
21  *     Delayed call back when rpc connection down.
22  *     Bulk break of delayed call backs when rpc connection
23  *         reestablished
24  *     Strict limit on number of call backs.
25  *
26  * InitCallBack(nblocks)
27  *     Initialize: nblocks is max number # of file entries + # of callback entries
28  *     nblocks must be < 65536
29  *     Space used is nblocks*16 bytes
30  *     Note that space will be reclaimed by breaking callbacks of old hosts
31  * 
32  * time = AddCallBack(host, fid)
33  *     Add a call back.
34  *     Returns the expiration time at the workstation.
35  * 
36  * BreakCallBack(host, fid)
37  *     Break all call backs for fid, except for the specified host.
38  *     Delete all of them.
39  * 
40  * BreakVolumeCallBacks(volume)
41  *     Break all call backs on volume, using single call to each host
42  *     Delete all the call backs.
43  * 
44  * DeleteCallBack(host,fid)
45  *     Delete (do not break) single call back for fid.
46  * 
47  * DeleteFileCallBacks(fid)
48  *     Delete (do not break) all call backs for fid.
49  *
50  * DeleteAllCallBacks(host)
51  *     Delete (do not break) all call backs for host.
52  * 
53  * CleanupTimedOutCallBacks()
54  *     Delete all timed out call back entries
55  *     Must be called periodically by file server.
56  * 
57  * BreakDelayedCallBacks(host)
58  *     Break all delayed call backs for host.
59  *     Returns 1: one or more failed, 0: success.
60  * 
61  * PrintCallBackStats()
62  *     Print statistics about call backs to stdout.
63  * 
64  * DumpCallBacks() ---wishful thinking---
65  *     Dump call back state to /tmp/callback.state.
66  *     This is separately interpretable by the program pcb.
67  *
68  * Notes:  In general, if a call back to a host doesn't get through,
69  * then HostDown, supplied elsewhere, is called.  BreakDelayedCallBacks,
70  * however, does not call HostDown, but instead returns an indication of
71  * success if all delayed call backs were finally broken.
72  *
73  * BreakDelayedCallBacks MUST be called at the first sign of activity
74  * from the host after HostDown has been called (or a previous
75  * BreakDelayedCallBacks failed). The BreakDelayedCallBacks must be
76  * allowed to complete before any requests from that host are handled.
77  * If BreakDelayedCallBacks fails, then the host should remain
78  * down (and the request should be failed).
79
80  * CleanupCallBacks MUST be called periodically by the file server for
81  * this package to work correctly.  Every 5 minutes is suggested.
82  */
83
84 #include <afsconfig.h>
85 #include <afs/param.h>
86
87 RCSID
88     ("$Header$");
89
90 #include <stdio.h>
91 #include <stdlib.h>             /* for malloc() */
92 #include <time.h>               /* ANSI standard location for time stuff */
93 #include <string.h>
94 #ifdef AFS_NT40_ENV
95 #include <fcntl.h>
96 #include <io.h>
97 #else
98 #include <sys/time.h>
99 #include <sys/file.h>
100 #endif
101 #include <afs/assert.h>
102
103 #include <afs/stds.h>
104
105 #include <afs/nfs.h>            /* yuck.  This is an abomination. */
106 #include <lwp.h>
107 #include <rx/rx.h>
108 #include <afscbint.h>
109 #include <afs/afsutil.h>
110 #include <lock.h>
111 #include <afs/ihandle.h>
112 #include <afs/vnode.h>
113 #include <afs/volume.h>
114 #include "viced_prototypes.h"
115 #include "viced.h"
116
117 #include <afs/ptclient.h>       /* need definition of prlist for host.h */
118 #include "host.h"
119 #include "callback.h"
120 #ifdef AFS_DEMAND_ATTACH_FS
121 #include "../tviced/serialize_state.h"
122 #endif /* AFS_DEMAND_ATTACH_FS */
123
124
125 extern afsUUID FS_HostUUID;
126 extern int hostCount;
127
128 #ifndef INTERPRET_DUMP
129 static int ShowProblems = 1;
130 #endif
131
132 struct cbcounters cbstuff;
133
134 static struct FileEntry * FE = NULL;    /* don't use FE[0] */
135 static struct CallBack * CB = NULL;     /* don't use CB[0] */
136
137 static struct CallBack * CBfree = NULL;
138 static struct FileEntry * FEfree = NULL;
139
140
141 /* Time to live for call backs depends upon number of users of the file.
142  * TimeOuts is indexed by this number/8 (using TimeOut macro).  Times
143  * in this table are for the workstation; server timeouts, add
144  * ServerBias */
145
146 static int TimeOuts[] = {
147 /* Note: don't make the first entry larger than 4 hours (see above) */
148     4 * 60 * 60,                /* 0-7 users */
149     1 * 60 * 60,                /* 8-15 users */
150     30 * 60,                    /* 16-23 users */
151     15 * 60,                    /* 24-31 users */
152     15 * 60,                    /* 32-39 users */
153     10 * 60,                    /* 40-47 users */
154     10 * 60,                    /* 48-55 users */
155     10 * 60,                    /* 56-63 users */
156 };                              /* Anything more: MinTimeOut */
157
158 /* minimum time given for a call back */
159 #ifndef INTERPRET_DUMP
160 static int MinTimeOut = (7 * 60);
161 #endif
162
163 /* Heads of CB queues; a timeout index is 1+index into this array */
164 static afs_uint32 timeout[CB_NUM_TIMEOUT_QUEUES];
165
166 static afs_int32 tfirst;        /* cbtime of oldest unexpired call back time queue */
167
168
169 /* 16 byte object get/free routines */
170 struct object {
171     struct object *next;
172 };
173
174 /* Prototypes for static routines */
175 static struct FileEntry *FindFE(register AFSFid * fid);
176
177 #ifndef INTERPRET_DUMP
178 static struct CallBack *iGetCB(register int *nused);
179 static int iFreeCB(register struct CallBack *cb, register int *nused);
180 static struct FileEntry *iGetFE(register int *nused);
181 static int iFreeFE(register struct FileEntry *fe, register int *nused);
182 static int TAdd(register struct CallBack *cb, register afs_uint32 * thead);
183 static int TDel(register struct CallBack *cb);
184 static int HAdd(register struct CallBack *cb, register struct host *host);
185 static int HDel(register struct CallBack *cb);
186 static int CDel(struct CallBack *cb, int deletefe);
187 static int CDelPtr(register struct FileEntry *fe, register afs_uint32 * cbp,
188                    int deletefe);
189 static afs_uint32 *FindCBPtr(struct FileEntry *fe, struct host *host);
190 static int FDel(register struct FileEntry *fe);
191 static int AddCallBack1_r(struct host *host, AFSFid * fid, afs_uint32 * thead,
192                           int type, int locked);
193 static void MultiBreakCallBack_r(struct cbstruct cba[], int ncbas,
194                                  struct AFSCBFids *afidp, struct host *xhost);
195 static int MultiBreakVolumeCallBack_r(struct host *host, int isheld,
196                                       struct VCBParams *parms, int deletefe);
197 static int MultiBreakVolumeCallBack(struct host *host, int isheld,
198                                     void *rock);
199 static int MultiBreakVolumeLaterCallBack(struct host *host, int isheld,
200                                          void *rock);
201 static int GetSomeSpace_r(struct host *hostp, int locked);
202 static int ClearHostCallbacks_r(struct host *hp, int locked);
203 #endif
204
205 #define GetCB() ((struct CallBack *)iGetCB(&cbstuff.nCBs))
206 #define GetFE() ((struct FileEntry *)iGetFE(&cbstuff.nFEs))
207 #define FreeCB(cb) iFreeCB((struct CallBack *)cb, &cbstuff.nCBs)
208 #define FreeFE(fe) iFreeFE((struct FileEntry *)fe, &cbstuff.nFEs)
209
210
211 /* Other protos - move out sometime */
212 void PrintCB(register struct CallBack *cb, afs_uint32 now);
213
214 static afs_uint32 HashTable[FEHASH_SIZE];       /* File entry hash table */
215
216 static struct FileEntry *
217 FindFE(register AFSFid * fid)
218 {
219     int hash;
220     register int fei;
221     register struct FileEntry *fe;
222
223     hash = FEHash(fid->Volume, fid->Unique);
224     for (fei = HashTable[hash]; fei; fei = fe->fnext) {
225         fe = itofe(fei);
226         if (fe->volid == fid->Volume && fe->unique == fid->Unique
227             && fe->vnode == fid->Vnode && (fe->status & FE_LATER) != FE_LATER)
228             return fe;
229     }
230     return 0;
231 }
232
233 #ifndef INTERPRET_DUMP
234
235 static struct CallBack *
236 iGetCB(register int *nused)
237 {
238     register struct CallBack *ret;
239
240     if ((ret = CBfree)) {
241         CBfree = (struct CallBack *)(((struct object *)ret)->next);
242         (*nused)++;
243     }
244     return ret;
245 }
246
247 static int
248 iFreeCB(register struct CallBack *cb, register int *nused)
249 {
250     ((struct object *)cb)->next = (struct object *)CBfree;
251     CBfree = cb;
252     (*nused)--;
253     return 0;
254 }
255
256 static struct FileEntry *
257 iGetFE(register int *nused)
258 {
259     register struct FileEntry *ret;
260
261     if ((ret = FEfree)) {
262         FEfree = (struct FileEntry *)(((struct object *)ret)->next);
263         (*nused)++;
264     }
265     return ret;
266 }
267
268 static int
269 iFreeFE(register struct FileEntry *fe, register int *nused)
270 {
271     ((struct object *)fe)->next = (struct object *)FEfree;
272     FEfree = fe;
273     (*nused)--;
274     return 0;
275 }
276
277 /* Add cb to end of specified timeout list */
278 static int
279 TAdd(register struct CallBack *cb, register afs_uint32 * thead)
280 {
281     if (!*thead) {
282         (*thead) = cb->tnext = cb->tprev = cbtoi(cb);
283     } else {
284         register struct CallBack *thp = itocb(*thead);
285
286         cb->tprev = thp->tprev;
287         cb->tnext = *thead;
288         if (thp) {
289             if (thp->tprev)
290                 thp->tprev = (itocb(thp->tprev)->tnext = cbtoi(cb));
291             else
292                 thp->tprev = cbtoi(cb);
293         }
294     }
295     cb->thead = ttoi(thead);
296     return 0;
297 }
298
299 /* Delete call back entry from timeout list */
300 static int
301 TDel(register struct CallBack *cb)
302 {
303     register afs_uint32 *thead = itot(cb->thead);
304
305     if (*thead == cbtoi(cb))
306         *thead = (*thead == cb->tnext ? 0 : cb->tnext);
307     if (itocb(cb->tprev))
308         itocb(cb->tprev)->tnext = cb->tnext;
309     if (itocb(cb->tnext))
310         itocb(cb->tnext)->tprev = cb->tprev;
311     return 0;
312 }
313
314 /* Add cb to end of specified host list */
315 static int
316 HAdd(register struct CallBack *cb, register struct host *host)
317 {
318     cb->hhead = h_htoi(host);
319     if (!host->cblist) {
320         host->cblist = cb->hnext = cb->hprev = cbtoi(cb);
321     } else {
322         register struct CallBack *fcb = itocb(host->cblist);
323
324         cb->hprev = fcb->hprev;
325         cb->hnext = cbtoi(fcb);
326         fcb->hprev = (itocb(fcb->hprev)->hnext = cbtoi(cb));
327     }
328     return 0;
329 }
330
331 /* Delete call back entry from host list */
332 static int
333 HDel(register struct CallBack *cb)
334 {
335     register afs_uint32 *hhead = &h_itoh(cb->hhead)->cblist;
336
337     if (*hhead == cbtoi(cb))
338         *hhead = (*hhead == cb->hnext ? 0 : cb->hnext);
339     itocb(cb->hprev)->hnext = cb->hnext;
340     itocb(cb->hnext)->hprev = cb->hprev;
341     return 0;
342 }
343
344 /* Delete call back entry from fid's chain of cb's */
345 /* N.B.  This one also deletes the CB, and also possibly parent FE, so
346  * make sure that it is not on any other list before calling this
347  * routine */
348 static int
349 CDel(struct CallBack *cb, int deletefe)
350 {
351     int cbi = cbtoi(cb);
352     struct FileEntry *fe = itofe(cb->fhead);
353     register afs_uint32 *cbp;
354     register int safety;
355
356     for (safety = 0, cbp = &fe->firstcb; *cbp && *cbp != cbi;
357          cbp = &itocb(*cbp)->cnext, safety++) {
358         if (safety > cbstuff.nblks + 10) {
359             assert(0);
360             ViceLog(0,
361                     ("CDel: Internal Error -- shutting down: wanted %d from %d, now at %d\n",
362                      cbi, fe->firstcb, *cbp));
363             DumpCallBackState();
364             ShutDownAndCore(PANIC);
365         }
366     }
367     CDelPtr(fe, cbp, deletefe);
368     return 0;
369 }
370
371 /* Same as CDel, but pointer to parent pointer to CB entry is passed,
372  * as well as file entry */
373 /* N.B.  This one also deletes the CB, and also possibly parent FE, so
374  * make sure that it is not on any other list before calling this
375  * routine */
376 static int Ccdelpt = 0, CcdelB = 0;
377
378 static int
379 CDelPtr(register struct FileEntry *fe, register afs_uint32 * cbp,
380         int deletefe)
381 {
382     register struct CallBack *cb;
383
384     if (!*cbp)
385         return 0;
386     Ccdelpt++;
387     cb = itocb(*cbp);
388     if (cb != &CB[*cbp])
389         CcdelB++;
390     *cbp = cb->cnext;
391     FreeCB(cb);
392     if ((--fe->ncbs == 0) && deletefe)
393         FDel(fe);
394     return 0;
395 }
396
397 static afs_uint32 *
398 FindCBPtr(struct FileEntry *fe, struct host *host)
399 {
400     register afs_uint32 hostindex = h_htoi(host);
401     register struct CallBack *cb;
402     register afs_uint32 *cbp;
403     register int safety;
404
405     for (safety = 0, cbp = &fe->firstcb; *cbp; cbp = &cb->cnext, safety++) {
406         if (safety > cbstuff.nblks) {
407             ViceLog(0, ("FindCBPtr: Internal Error -- shutting down.\n"));
408             DumpCallBackState();
409             ShutDownAndCore(PANIC);
410         }
411         cb = itocb(*cbp);
412         if (cb->hhead == hostindex)
413             break;
414     }
415     return cbp;
416 }
417
418 /* Delete file entry from hash table */
419 static int
420 FDel(register struct FileEntry *fe)
421 {
422     register int fei = fetoi(fe);
423     register afs_uint32 *p = &HashTable[FEHash(fe->volid, fe->unique)];
424
425     while (*p && *p != fei)
426         p = &itofe(*p)->fnext;
427     assert(*p);
428     *p = fe->fnext;
429     FreeFE(fe);
430     return 0;
431 }
432
433 /* initialize the callback package */
434 int
435 InitCallBack(int nblks)
436 {
437     H_LOCK;
438     tfirst = CBtime(FT_ApproxTime());
439     /* N.B. The "-1", below, is because
440      * FE[0] and CB[0] are not used--and not allocated */
441     FE = ((struct FileEntry *)(calloc(nblks, sizeof(struct FileEntry))));
442     if (!FE) {
443         ViceLog(0, ("Failed malloc in InitCallBack\n"));
444         assert(0);
445     }
446     FE--;  /* FE[0] is supposed to point to junk */
447     cbstuff.nFEs = nblks;
448     while (cbstuff.nFEs)
449         FreeFE(&FE[cbstuff.nFEs]);      /* This is correct */
450     CB = ((struct CallBack *)(calloc(nblks, sizeof(struct CallBack))));
451     if (!CB) {
452         ViceLog(0, ("Failed malloc in InitCallBack\n"));
453         assert(0);
454     }
455     CB--;  /* CB[0] is supposed to point to junk */
456     cbstuff.nCBs = nblks;
457     while (cbstuff.nCBs)
458         FreeCB(&CB[cbstuff.nCBs]);      /* This is correct */
459     cbstuff.nblks = nblks;
460     cbstuff.nbreakers = 0;
461     H_UNLOCK;
462     return 0;
463 }
464
465 afs_int32
466 XCallBackBulk_r(struct host * ahost, struct AFSFid * fids, afs_int32 nfids)
467 {
468     struct AFSCallBack tcbs[AFSCBMAX];
469     register int i;
470     struct AFSCBFids tf;
471     struct AFSCBs tc;
472     int code;
473     int j;
474     struct rx_connection *cb_conn = NULL;
475
476 #ifdef  ADAPT_MTU
477     rx_SetConnDeadTime(ahost->callback_rxcon, 4);
478     rx_SetConnHardDeadTime(ahost->callback_rxcon, AFS_HARDDEADTIME);
479 #endif
480
481     code = 0;
482     j = 0;
483     while (nfids > 0) {
484
485         for (i = 0; i < nfids && i < AFSCBMAX; i++) {
486             tcbs[i].CallBackVersion = CALLBACK_VERSION;
487             tcbs[i].ExpirationTime = 0;
488             tcbs[i].CallBackType = CB_DROPPED;
489         }
490         tf.AFSCBFids_len = i;
491         tf.AFSCBFids_val = &(fids[j]);
492         nfids -= i;
493         j += i;
494         tc.AFSCBs_len = i;
495         tc.AFSCBs_val = tcbs;
496
497         cb_conn = ahost->callback_rxcon;
498         rx_GetConnection(cb_conn);
499         H_UNLOCK;
500         code |= RXAFSCB_CallBack(cb_conn, &tf, &tc);
501         rx_PutConnection(cb_conn);
502         cb_conn = NULL;
503         H_LOCK;
504     }
505
506     return code;
507 }
508
509 /* the locked flag tells us if the host entry has already been locked 
510  * by our parent.  I don't think anybody actually calls us with the
511  * host locked, but here's how to make that work:  GetSomeSpace has to
512  * change so that it doesn't attempt to lock any hosts < "host".  That
513  * means that it might be unable to free any objects, so it has to
514  * return an exit status.  If it fails, then AddCallBack1 might fail,
515  * as well. If so, the host->ResetDone should probably be set to 0,
516  * and we probably don't want to return a callback promise to the
517  * cache manager, either. */
518 int
519 AddCallBack1(struct host *host, AFSFid * fid, afs_uint32 * thead, int type,
520              int locked)
521 {
522     int retVal;
523     H_LOCK;
524     if (!locked) {
525         h_Lock_r(host);
526     }
527     retVal = AddCallBack1_r(host, fid, thead, type, 1);
528
529     if (!locked) {
530         h_Unlock_r(host);
531     }
532     H_UNLOCK;
533     return retVal;
534 }
535
536 static int
537 AddCallBack1_r(struct host *host, AFSFid * fid, afs_uint32 * thead, int type,
538                int locked)
539 {
540     struct FileEntry *fe;
541     struct CallBack *cb = 0, *lastcb = 0;
542     struct FileEntry *newfe = 0;
543     afs_uint32 time_out = 0;
544     afs_uint32 *Thead = thead;
545     struct CallBack *newcb = 0;
546     int safety;
547
548     cbstuff.AddCallBacks++;
549
550     host->Console |= 2;
551
552     /* allocate these guys first, since we can't call the allocator with
553      * the host structure locked -- or we might deadlock. However, we have 
554      * to avoid races with FindFE... */
555     while (!(newcb = GetCB())) {
556         GetSomeSpace_r(host, locked);
557     }
558     while (!(newfe = GetFE())) {        /* Get it now, so we don't have to call */
559         /* GetSomeSpace with the host locked, later.  This might turn out to */
560         /* have been unneccessary, but that's actually kind of unlikely, since */
561         /* most files are not shared. */
562         GetSomeSpace_r(host, locked);
563     }
564
565     if (!locked) {
566         h_Lock_r(host);         /* this can yield, so do it before we get any */
567         /* fragile info */
568     }
569
570     fe = FindFE(fid);
571     if (type == CB_NORMAL) {
572         time_out =
573             TimeCeiling(FT_ApproxTime() + TimeOut(fe ? fe->ncbs : 0) +
574                         ServerBias);
575         Thead = THead(CBtime(time_out));
576     } else if (type == CB_VOLUME) {
577         time_out = TimeCeiling((60 * 120 + FT_ApproxTime()) + ServerBias);
578         Thead = THead(CBtime(time_out));
579     } else if (type == CB_BULK) {
580         /* bulk status can get so many callbacks all at once, and most of them
581          * are probably not for things that will be used for long.
582          */
583         time_out =
584             TimeCeiling(FT_ApproxTime() + ServerBias +
585                         TimeOut(22 + (fe ? fe->ncbs : 0)));
586         Thead = THead(CBtime(time_out));
587     }
588
589     host->Console &= ~2;
590
591     if (!fe) {
592         register afs_uint32 hash;
593
594         fe = newfe;
595         newfe = NULL;
596         fe->firstcb = 0;
597         fe->volid = fid->Volume;
598         fe->vnode = fid->Vnode;
599         fe->unique = fid->Unique;
600         fe->ncbs = 0;
601         fe->status = 0;
602         hash = FEHash(fid->Volume, fid->Unique);
603         fe->fnext = HashTable[hash];
604         HashTable[hash] = fetoi(fe);
605     }
606     for (safety = 0, lastcb = cb = itocb(fe->firstcb); cb;
607          lastcb = cb, cb = itocb(cb->cnext), safety++) {
608         if (safety > cbstuff.nblks) {
609             ViceLog(0, ("AddCallBack1: Internal Error -- shutting down.\n"));
610             DumpCallBackState();
611             ShutDownAndCore(PANIC);
612         }
613         if (cb->hhead == h_htoi(host))
614             break;
615     }
616     if (cb) {                   /* Already have call back:  move to new timeout list */
617         /* don't change delayed callbacks back to normal ones */
618         if (cb->status != CB_DELAYED)
619             cb->status = type;
620         /* Only move if new timeout is longer */
621         if (TNorm(ttoi(Thead)) > TNorm(cb->thead)) {
622             TDel(cb);
623             TAdd(cb, Thead);
624         }
625         if (newfe == NULL) {    /* we are using the new FE */
626             fe->firstcb = cbtoi(cb);
627             fe->ncbs++;
628             cb->fhead = fetoi(fe);
629         }
630     } else {
631         cb = newcb;
632         newcb = NULL;
633         *(lastcb ? &lastcb->cnext : &fe->firstcb) = cbtoi(cb);
634         fe->ncbs++;
635         cb->cnext = 0;
636         cb->fhead = fetoi(fe);
637         cb->status = type;
638         HAdd(cb, host);
639         TAdd(cb, Thead);
640     }
641
642     /* now free any still-unused callback or host entries */
643     if (newcb)
644         FreeCB(newcb);
645     if (newfe)
646         FreeFE(newfe);
647
648     if (!locked)                /* freecb and freefe might(?) yield */
649         h_Unlock_r(host);
650
651     if (type == CB_NORMAL || type == CB_VOLUME || type == CB_BULK)
652         return time_out - ServerBias;   /* Expires sooner at workstation */
653
654     return 0;
655 }
656
657 static int
658 CompareCBA(const void *e1, const void *e2)
659 {
660     const struct cbstruct *cba1 = (const struct cbstruct *)e1;
661     const struct cbstruct *cba2 = (const struct cbstruct *)e2;
662     return ((cba1->hp)->index - (cba2->hp)->index);
663 }
664
665 /* Take an array full of hosts, all held.  Break callbacks to them, and 
666  * release the holds once you're done, except don't release xhost.  xhost 
667  * may be NULL.  Currently only works for a single Fid in afidp array.
668  * If you want to make this work with multiple fids, you need to fix
669  * the error handling.  One approach would be to force a reset if a
670  * multi-fid call fails, or you could add delayed callbacks for each
671  * fid.   You probably also need to sort and remove duplicate hosts.
672  * When this is called from the BreakVolumeCallBacks path, it does NOT 
673  * force a reset if the RPC fails, it just marks the host down and tries 
674  * to create a delayed callback. */
675 /* N.B.  be sure that code works when ncbas == 0 */
676 /* N.B.  requires all the cba[*].hp pointers to be valid... */
677 /* This routine does not hold a lock on the host for the duration of 
678  * the BreakCallBack RPC, which is a significant deviation from tradition.
679  * It _does_ get a lock on the host before setting VenusDown = 1,
680  * which is sufficient only if VenusDown = 0 only happens when the
681  * lock is held over the RPC and the subsequent VenusDown == 0
682  * wherever that is done. */
683 static void
684 MultiBreakCallBack_r(struct cbstruct cba[], int ncbas,
685                      struct AFSCBFids *afidp, struct host *xhost)
686 {
687     int i, j;
688     struct rx_connection *conns[MAX_CB_HOSTS];
689     static struct AFSCBs tc = { 0, 0 };
690     int multi_to_cba_map[MAX_CB_HOSTS];
691
692     assert(ncbas <= MAX_CB_HOSTS);
693
694     /* sort cba list to avoid makecall issues */
695     qsort(cba, ncbas, sizeof(struct cbstruct), CompareCBA);
696
697     /* set up conns for multi-call */
698     for (i = 0, j = 0; i < ncbas; i++) {
699         struct host *thishost = cba[i].hp;
700         if (!thishost || (thishost->hostFlags & HOSTDELETED)) {
701             continue;
702         }
703         rx_GetConnection(thishost->callback_rxcon);
704         multi_to_cba_map[j] = i;
705         conns[j++] = thishost->callback_rxcon;
706
707 #ifdef  ADAPT_MTU
708         rx_SetConnDeadTime(thishost->callback_rxcon, 4);
709         rx_SetConnHardDeadTime(thishost->callback_rxcon, AFS_HARDDEADTIME);
710 #endif
711     }
712
713     if (j) {                    /* who knows what multi would do with 0 conns? */
714         cbstuff.nbreakers++;
715         H_UNLOCK;
716         multi_Rx(conns, j) {
717             multi_RXAFSCB_CallBack(afidp, &tc);
718             if (multi_error) {
719                 afs_uint32 idx;
720                 struct host *hp;
721                 char hoststr[16];
722
723                 i = multi_to_cba_map[multi_i];
724                 hp = cba[i].hp;
725                 idx = cba[i].thead;
726
727                 if (!hp || !idx) {
728                     ViceLog(0,
729                             ("BCB: INTERNAL ERROR: hp=%x, cba=%x, thead=%u\n", 
730                              hp, cba, idx));
731                 } else {
732                     /* 
733                      ** try breaking callbacks on alternate interface addresses
734                      */
735                     if (MultiBreakCallBackAlternateAddress(hp, afidp)) {
736                         if (ShowProblems) {
737                             ViceLog(7,
738                                     ("BCB: Failed on file %u.%u.%u, Host %x (%s:%d) is down\n",
739                                      afidp->AFSCBFids_val->Volume,
740                                      afidp->AFSCBFids_val->Vnode,
741                                      afidp->AFSCBFids_val->Unique,
742                                      hp,
743                                      afs_inet_ntoa_r(hp->host, hoststr),
744                                      ntohs(hp->port)));
745                         }
746
747                         H_LOCK;
748                         h_Lock_r(hp); 
749                         hp->hostFlags |= VENUSDOWN;
750                 /**
751                   * We always go into AddCallBack1_r with the host locked
752                   */
753                         AddCallBack1_r(hp, afidp->AFSCBFids_val, itot(idx),
754                                        CB_DELAYED, 1);
755                         h_Unlock_r(hp); 
756                         H_UNLOCK;
757                     }
758                 }
759             }
760         }
761         multi_End;
762         H_LOCK;
763         cbstuff.nbreakers--;
764     }
765
766     for (i = 0; i < ncbas; i++) {
767         struct host *hp;
768         hp = cba[i].hp;
769         if (hp && xhost != hp) {
770             h_Release_r(hp);
771         }
772     }
773
774     /* H_UNLOCK around this so h_FreeConnection does not deadlock.
775        h_FreeConnection should *never* be called on a callback connection,
776        but on 10/27/04 a deadlock occurred where it was, when we know why,
777        this should be reverted. -- shadow */
778     H_UNLOCK;
779     for (i = 0; i < j; i++) {
780         rx_PutConnection(conns[i]);
781     }
782     H_LOCK;
783
784     return;
785 }
786
787 /*
788  * Break all call backs for fid, except for the specified host (unless flag
789  * is true, in which case all get a callback message. Assumption: the specified
790  * host is h_Held, by the caller; the others aren't.
791  * Specified host may be bogus, that's ok.  This used to check to see if the 
792  * host was down in two places, once right after the host was h_held, and 
793  * again after it was locked.  That race condition is incredibly rare and
794  * relatively harmless even when it does occur, so we don't check for it now. 
795  */
796 /* if flag is true, send a break callback msg to "host", too */
797 int
798 BreakCallBack(struct host *xhost, AFSFid * fid, int flag)
799 {
800     struct FileEntry *fe;
801     struct CallBack *cb, *nextcb;
802     struct cbstruct cba[MAX_CB_HOSTS];
803     int ncbas;
804     struct AFSCBFids tf;
805     int hostindex;
806     char hoststr[16];
807
808     ViceLog(7,
809             ("BCB: BreakCallBack(Host %x all but %s:%d, (%u,%u,%u))\n",
810              xhost, afs_inet_ntoa_r(xhost->host, hoststr), ntohs(xhost->port),
811              fid->Volume, fid->Vnode, fid->Unique));
812
813     H_LOCK;
814     cbstuff.BreakCallBacks++;
815     fe = FindFE(fid);
816     if (!fe) {
817         goto done;
818     }
819     hostindex = h_htoi(xhost);
820     cb = itocb(fe->firstcb);
821     if (!cb || ((fe->ncbs == 1) && (cb->hhead == hostindex) && !flag)) {
822         /* the most common case is what follows the || */
823         goto done;
824     }
825     tf.AFSCBFids_len = 1;
826     tf.AFSCBFids_val = fid;
827
828     for (; cb;) {
829         for (ncbas = 0; cb && ncbas < MAX_CB_HOSTS; cb = nextcb) {
830             nextcb = itocb(cb->cnext);
831             if ((cb->hhead != hostindex || flag)
832                 && (cb->status == CB_BULK || cb->status == CB_NORMAL
833                     || cb->status == CB_VOLUME)) {
834                 struct host *thishost = h_itoh(cb->hhead);
835                 if (!thishost) {
836                     ViceLog(0, ("BCB: BOGUS! cb->hhead is NULL!\n"));
837                 } else if (thishost->hostFlags & VENUSDOWN) {
838                     ViceLog(7,
839                             ("BCB: %x (%s:%d) is down; delaying break call back\n",
840                              thishost, afs_inet_ntoa_r(thishost->host, hoststr),
841                              ntohs(thishost->port)));
842                     cb->status = CB_DELAYED;
843                 } else {
844                     h_Hold_r(thishost);
845                     cba[ncbas].hp = thishost;
846                     cba[ncbas].thead = cb->thead;
847                     ncbas++;
848                     TDel(cb);
849                     HDel(cb);
850                     CDel(cb, 1);        /* Usually first; so this delete 
851                                          * is reasonably inexpensive */
852                 }
853             }
854         }
855
856         if (ncbas) {
857             MultiBreakCallBack_r(cba, ncbas, &tf, xhost);
858
859             /* we need to to all these initializations again because MultiBreakCallBack may block */
860             fe = FindFE(fid);
861             if (!fe) {
862                 goto done;
863             }
864             cb = itocb(fe->firstcb);
865             if (!cb || ((fe->ncbs == 1) && (cb->hhead == hostindex) && !flag)) {
866                 /* the most common case is what follows the || */
867                 goto done;
868             }
869         }
870     }
871
872   done:
873     H_UNLOCK;
874     return 0;
875 }
876
877 /* Delete (do not break) single call back for fid */
878 int
879 DeleteCallBack(struct host *host, AFSFid * fid)
880 {
881     register struct FileEntry *fe;
882     register afs_uint32 *pcb;
883     char hoststr[16];
884
885     H_LOCK;
886     cbstuff.DeleteCallBacks++;
887
888     h_Lock_r(host);
889     fe = FindFE(fid);
890     if (!fe) {
891         h_Unlock_r(host);
892         H_UNLOCK;
893         ViceLog(8,
894                 ("DCB: No call backs for fid (%u, %u, %u)\n", fid->Volume,
895                  fid->Vnode, fid->Unique));
896         return 0;
897     }
898     pcb = FindCBPtr(fe, host);
899     if (!*pcb) {
900         ViceLog(8,
901                 ("DCB: No call back for host %x (%s:%d), (%u, %u, %u)\n",
902                  host, afs_inet_ntoa_r(host->host, hoststr), ntohs(host->port),
903                  fid->Volume, fid->Vnode, fid->Unique));
904         h_Unlock_r(host);
905         H_UNLOCK;
906         return 0;
907     }
908     HDel(itocb(*pcb));
909     TDel(itocb(*pcb));
910     CDelPtr(fe, pcb, 1);
911     h_Unlock_r(host);
912     H_UNLOCK;
913     return 0;
914 }
915
916 /*
917  * Delete (do not break) all call backs for fid.  This call doesn't
918  * set all of the various host locks, but it shouldn't really matter
919  * since we're not adding callbacks, but deleting them.  I'm not sure
920  * why it doesn't set the lock, however; perhaps it should.
921  */
922 int
923 DeleteFileCallBacks(AFSFid * fid)
924 {
925     register struct FileEntry *fe;
926     register struct CallBack *cb;
927     register afs_uint32 cbi;
928     register int n;
929
930     H_LOCK;
931     cbstuff.DeleteFiles++;
932     fe = FindFE(fid);
933     if (!fe) {
934         H_UNLOCK;
935         ViceLog(8,
936                 ("DF: No fid (%u,%u,%u) to delete\n", fid->Volume, fid->Vnode,
937                  fid->Unique));
938         return 0;
939     }
940     for (n = 0, cbi = fe->firstcb; cbi; n++) {
941         cb = itocb(cbi);
942         cbi = cb->cnext;
943         TDel(cb);
944         HDel(cb);
945         FreeCB(cb);
946         fe->ncbs--;
947     }
948     FDel(fe);
949     H_UNLOCK;
950     return 0;
951 }
952
953 /* Delete (do not break) all call backs for host.  The host should be
954  * locked. */
955 int
956 DeleteAllCallBacks_r(struct host *host, int deletefe)
957 {
958     register struct CallBack *cb;
959     register int cbi, first;
960
961     cbstuff.DeleteAllCallBacks++;
962     cbi = first = host->cblist;
963     if (!cbi) {
964         ViceLog(8, ("DV: no call backs\n"));
965         return 0;
966     }
967     do {
968         cb = itocb(cbi);
969         cbi = cb->hnext;
970         TDel(cb);
971         CDel(cb, deletefe);
972     } while (cbi != first);
973     host->cblist = 0;
974     return 0;
975 }
976
977 /*
978  * Break all delayed call backs for host.  Returns 1 if all call backs
979  * successfully broken; 0 otherwise.  Assumes host is h_Held and h_Locked.
980  * Must be called with VenusDown set for this host
981  */
982 int
983 BreakDelayedCallBacks(struct host *host)
984 {
985     int retVal;
986     H_LOCK;
987     retVal = BreakDelayedCallBacks_r(host);
988     H_UNLOCK;
989     return retVal;
990 }
991
992 int
993 BreakDelayedCallBacks_r(struct host *host)
994 {
995     struct AFSFid fids[AFSCBMAX];
996     u_byte thead[AFSCBMAX];     /* This should match thead in struct Callback */
997     int cbi, first, nfids;
998     struct CallBack *cb;
999     int code;
1000     char hoststr[16];
1001     struct rx_connection *cb_conn;
1002
1003     cbstuff.nbreakers++;
1004     if (!(host->hostFlags & RESETDONE) && !(host->hostFlags & HOSTDELETED)) {
1005         host->hostFlags &= ~ALTADDR;    /* alternate addresses are invalid */
1006         cb_conn = host->callback_rxcon;
1007         rx_GetConnection(cb_conn);
1008         if (host->interface) {
1009             H_UNLOCK;
1010             code =
1011                 RXAFSCB_InitCallBackState3(cb_conn, &FS_HostUUID);
1012         } else {
1013             H_UNLOCK;
1014             code = RXAFSCB_InitCallBackState(cb_conn);
1015         }
1016         rx_PutConnection(cb_conn);
1017         cb_conn = NULL;
1018         H_LOCK;
1019         host->hostFlags |= ALTADDR;     /* alternate addresses are valid */
1020         if (code) {
1021             if (ShowProblems) {
1022                 ViceLog(0,
1023                         ("CB: Call back connect back failed (in break delayed) for Host %x (%s:%d)\n",
1024                          host, afs_inet_ntoa_r(host->host, hoststr),
1025                          ntohs(host->port)));
1026             }
1027             host->hostFlags |= VENUSDOWN;
1028         } else {
1029             ViceLog(25,
1030                     ("InitCallBackState success on %x (%s:%d)\n",
1031                      host, afs_inet_ntoa_r(host->host, hoststr), ntohs(host->port)));
1032             /* reset was done successfully */
1033             host->hostFlags |= RESETDONE;
1034             host->hostFlags &= ~VENUSDOWN;
1035         }
1036     } else
1037         while (!(host->hostFlags & HOSTDELETED)) {
1038             nfids = 0;
1039             host->hostFlags &= ~VENUSDOWN;      /* presume up */
1040             cbi = first = host->cblist;
1041             if (!cbi)
1042                 break;
1043             do {
1044                 first = host->cblist;
1045                 cb = itocb(cbi);
1046                 cbi = cb->hnext;
1047                 if (cb->status == CB_DELAYED) {
1048                     register struct FileEntry *fe = itofe(cb->fhead);
1049                     thead[nfids] = cb->thead;
1050                     fids[nfids].Volume = fe->volid;
1051                     fids[nfids].Vnode = fe->vnode;
1052                     fids[nfids].Unique = fe->unique;
1053                     nfids++;
1054                     HDel(cb);
1055                     TDel(cb);
1056                     CDel(cb, 1);
1057                 }
1058             } while (cbi && cbi != first && nfids < AFSCBMAX);
1059
1060             if (nfids == 0) {
1061                 break;
1062             }
1063
1064             if (XCallBackBulk_r(host, fids, nfids)) {
1065                 /* Failed, again:  put them back, probably with old
1066                  * timeout values */
1067                 int i;
1068                 if (ShowProblems) {
1069                     ViceLog(0,
1070                             ("CB: XCallBackBulk failed, Host %x (%s:%d); callback list follows:\n",
1071                              host, afs_inet_ntoa_r(host->host, hoststr),
1072                              ntohs(host->port)));
1073                 }
1074                 for (i = 0; i < nfids; i++) {
1075                     if (ShowProblems) {
1076                         ViceLog(0,
1077                                 ("CB: Host %x (%s:%d), file %u.%u.%u (part of bulk callback)\n",
1078                                  host, afs_inet_ntoa_r(host->host, hoststr),
1079                                  ntohs(host->port), fids[i].Volume,
1080                                  fids[i].Vnode, fids[i].Unique));
1081                     }
1082                     /* used to do this:
1083                      * AddCallBack1_r(host, &fids[i], itot(thead[i]), CB_DELAYED, 1);
1084                      * * but it turns out to cause too many tricky locking problems.
1085                      * * now, if break delayed fails, screw it. */
1086                 }
1087                 host->hostFlags |= VENUSDOWN;   /* Failed */
1088                 ClearHostCallbacks_r(host, 1 /* locked */ );
1089                 nfids = 0;
1090                 break;
1091             }
1092             if (nfids < AFSCBMAX)
1093                 break;
1094         }
1095
1096     cbstuff.nbreakers--;
1097     /* If we succeeded it's always ok to unset HFE_LATER */
1098     if (!(host->hostFlags & VENUSDOWN))
1099         host->hostFlags &= ~HFE_LATER;
1100     return (host->hostFlags & VENUSDOWN);
1101 }
1102
1103 /*
1104 ** isheld is 0 if the host is held in h_Enumerate
1105 ** isheld is 1 if the host is held in BreakVolumeCallBacks
1106 */
1107 static int
1108 MultiBreakVolumeCallBack_r(struct host *host, int isheld,
1109                            struct VCBParams *parms, int deletefe)
1110 {
1111     char hoststr[16];
1112
1113     if (!isheld)
1114         return isheld;          /* host is held only by h_Enumerate, do nothing */
1115     if (host->hostFlags & HOSTDELETED)
1116         return 0;               /* host is deleted, release hold */
1117
1118     if (host->hostFlags & VENUSDOWN) {
1119         h_Lock_r(host);
1120         if (host->hostFlags & HOSTDELETED) {
1121             h_Unlock_r(host);
1122             return 0;           /* Release hold */
1123         }
1124         ViceLog(8,
1125                 ("BVCB: volume call back for Host %x (%s:%d) failed\n",
1126                  host, afs_inet_ntoa_r(host->host, hoststr), ntohs(host->port)));
1127         if (ShowProblems) {
1128             ViceLog(0,
1129                     ("CB: volume callback for Host %x (%s:%d) failed\n",
1130                      host, afs_inet_ntoa_r(host->host, hoststr),
1131                      ntohs(host->port)));
1132         }
1133         DeleteAllCallBacks_r(host, deletefe);   /* Delete all callback state 
1134                                                  * rather than attempting to 
1135                                                  * selectively remember to
1136                                                  * delete the volume callbacks
1137                                                  * later */
1138         host->hostFlags &= ~RESETDONE;  /* Do InitCallBackState when host returns */
1139         h_Unlock_r(host);
1140         return 0;               /* release hold */
1141     }
1142     assert(parms->ncbas <= MAX_CB_HOSTS);
1143
1144     /* Do not call MultiBreakCallBack on the current host structure
1145      ** because it would prematurely release the hold on the host
1146      */
1147     if (parms->ncbas == MAX_CB_HOSTS) {
1148         struct AFSCBFids tf;
1149
1150         tf.AFSCBFids_len = 1;
1151         tf.AFSCBFids_val = parms->fid;
1152
1153         /* this releases all the hosts */
1154         MultiBreakCallBack_r(parms->cba, parms->ncbas, &tf, 0 /* xhost */ );
1155
1156         parms->ncbas = 0;
1157     }
1158     parms->cba[parms->ncbas].hp = host;
1159     parms->cba[(parms->ncbas)++].thead = parms->thead;
1160     return 1;                   /* DON'T release hold, because we still need it. */
1161 }
1162
1163 /*
1164 ** isheld is 0 if the host is held in h_Enumerate
1165 ** isheld is 1 if the host is held in BreakVolumeCallBacks
1166 */
1167 static int
1168 MultiBreakVolumeCallBack(struct host *host, int isheld, void *rock)
1169 {
1170     struct VCBParams *parms = (struct VCBParams *) rock;
1171     
1172     int retval;
1173     H_LOCK;
1174     retval = MultiBreakVolumeCallBack_r(host, isheld, parms, 1);
1175     H_UNLOCK;
1176     return retval;
1177 }
1178
1179 /*
1180 ** isheld is 0 if the host is held in h_Enumerate
1181 ** isheld is 1 if the host is held in BreakVolumeCallBacks
1182 */
1183 static int
1184 MultiBreakVolumeLaterCallBack(struct host *host, int isheld, void *rock)
1185 {
1186     struct VCBParams *parms = (struct VCBParams *)rock;
1187     int retval;
1188     H_LOCK;
1189     retval = MultiBreakVolumeCallBack_r(host, isheld, parms, 0);
1190     H_UNLOCK;
1191     return retval;
1192 }
1193
1194 /*
1195  * Break all call backs on a single volume.  Don't call this with any
1196  * hosts h_held.  Note that this routine clears the callbacks before
1197  * actually breaking them, and that the vnode isn't locked during this
1198  * operation, so that people might see temporary callback loss while
1199  * this function is executing.  It is just a temporary state, however,
1200  * since the callback will be broken later by this same function.
1201  *
1202  * Now uses multi-RX for CallBack RPC.  Note that the
1203  * multiBreakCallBacks routine does not force a reset if the RPC
1204  * fails, unlike the previous version of this routine, but does create
1205  * a delayed callback.  Resets will be forced if the host is
1206  * determined to be down before the RPC is executed.
1207  */
1208 int
1209 BreakVolumeCallBacks(afs_uint32 volume)
1210 {
1211     struct AFSFid fid;
1212     int hash;
1213     afs_uint32 *feip;
1214     struct CallBack *cb;
1215     struct FileEntry *fe;
1216     struct host *host;
1217     struct VCBParams henumParms;
1218     afs_uint32 tthead = 0;      /* zero is illegal value */
1219
1220     H_LOCK;
1221     fid.Volume = volume, fid.Vnode = fid.Unique = 0;
1222     for (hash = 0; hash < FEHASH_SIZE; hash++) {
1223         for (feip = &HashTable[hash]; (fe = itofe(*feip));) {
1224             if (fe->volid == volume) {
1225                 register struct CallBack *cbnext;
1226                 for (cb = itocb(fe->firstcb); cb; cb = cbnext) {
1227                     host = h_itoh(cb->hhead);
1228                     h_Hold_r(host);
1229                     cbnext = itocb(cb->cnext);
1230                     if (!tthead || (TNorm(tthead) < TNorm(cb->thead))) {
1231                         tthead = cb->thead;
1232                     }
1233                     TDel(cb);
1234                     HDel(cb);
1235                     FreeCB(cb);
1236                     /* leave hold for MultiBreakVolumeCallBack to clear */
1237                 }
1238                 *feip = fe->fnext;
1239                 FreeFE(fe);
1240             } else {
1241                 feip = &fe->fnext;
1242             }
1243         }
1244     }
1245
1246     if (!tthead) {
1247         /* didn't find any callbacks, so return right away. */
1248         H_UNLOCK;
1249         return 0;
1250     }
1251     henumParms.ncbas = 0;
1252     henumParms.fid = &fid;
1253     henumParms.thead = tthead;
1254     H_UNLOCK;
1255     h_Enumerate(MultiBreakVolumeCallBack, &henumParms);
1256     H_LOCK;
1257     if (henumParms.ncbas) {     /* do left-overs */
1258         struct AFSCBFids tf;
1259         tf.AFSCBFids_len = 1;
1260         tf.AFSCBFids_val = &fid;
1261
1262         MultiBreakCallBack_r(henumParms.cba, henumParms.ncbas, &tf, 0);
1263
1264         henumParms.ncbas = 0;
1265     }
1266     H_UNLOCK;
1267     return 0;
1268 }
1269
1270 #ifdef AFS_PTHREAD_ENV
1271 extern pthread_cond_t fsync_cond;
1272 #else
1273 extern char fsync_wait[];
1274 #endif
1275
1276 int
1277 BreakVolumeCallBacksLater(afs_uint32 volume)
1278 {
1279     int hash;
1280     afs_uint32 *feip;
1281     struct FileEntry *fe;
1282     struct CallBack *cb;
1283     struct host *host;
1284     int found = 0;
1285
1286     ViceLog(25, ("Setting later on volume %u\n", volume));
1287     H_LOCK;
1288     for (hash = 0; hash < FEHASH_SIZE; hash++) {
1289         for (feip = &HashTable[hash]; (fe = itofe(*feip)) != NULL; ) {
1290             if (fe->volid == volume) {
1291                 register struct CallBack *cbnext;
1292                 for (cb = itocb(fe->firstcb); cb; cb = cbnext) {
1293                     host = h_itoh(cb->hhead);
1294                     host->hostFlags |= HFE_LATER;
1295                     cb->status = CB_DELAYED;
1296                     cbnext = itocb(cb->cnext);
1297                 }
1298                 FSYNC_LOCK;
1299                 fe->status |= FE_LATER;
1300                 FSYNC_UNLOCK;
1301                 found = 1;
1302             }
1303             feip = &fe->fnext;
1304         }
1305     }
1306     H_UNLOCK;
1307     if (!found) {
1308         /* didn't find any callbacks, so return right away. */
1309         return 0;
1310     }
1311
1312     ViceLog(25, ("Fsync thread wakeup\n"));
1313 #ifdef AFS_PTHREAD_ENV
1314     FSYNC_LOCK;
1315     assert(pthread_cond_broadcast(&fsync_cond) == 0);
1316     FSYNC_UNLOCK;
1317 #else
1318     LWP_NoYieldSignal(fsync_wait);
1319 #endif
1320     return 0;
1321 }
1322
1323 int
1324 BreakLaterCallBacks(void)
1325 {
1326     struct AFSFid fid;
1327     int hash;
1328     afs_uint32 *feip;
1329     struct CallBack *cb;
1330     struct FileEntry *fe = NULL;
1331     struct FileEntry *myfe = NULL;
1332     struct host *host;
1333     struct VCBParams henumParms;
1334     unsigned short tthead = 0;  /* zero is illegal value */
1335     char hoststr[16];
1336
1337     /* Unchain first */
1338     ViceLog(25, ("Looking for FileEntries to unchain\n"));
1339     H_LOCK;
1340     FSYNC_LOCK;
1341     /* Pick the first volume we see to clean up */
1342     fid.Volume = fid.Vnode = fid.Unique = 0;
1343
1344     for (hash = 0; hash < FEHASH_SIZE; hash++) {
1345         for (feip = &HashTable[hash]; (fe = itofe(*feip)) != NULL; ) {
1346             if (fe && (fe->status & FE_LATER)
1347                 && (fid.Volume == 0 || fid.Volume == fe->volid)) {
1348                 /* Ugly, but used to avoid left side casting */
1349                 struct object *tmpfe;
1350                 ViceLog(125,
1351                         ("Unchaining for %u:%u:%u\n", fe->vnode, fe->unique,
1352                          fe->volid));
1353                 fid.Volume = fe->volid;
1354                 *feip = fe->fnext;
1355                 /* Works since volid is deeper than the largest pointer */
1356                 tmpfe = (struct object *)fe;
1357                 tmpfe->next = (struct object *)myfe;
1358                 myfe = fe;
1359             } else
1360                 feip = &fe->fnext;
1361         }
1362     }
1363     FSYNC_UNLOCK;
1364
1365     if (!myfe) {
1366         H_UNLOCK;
1367         return 0;
1368     }
1369
1370     /* loop over FEs from myfe and free/break */
1371     tthead = 0;
1372     for (fe = myfe; fe;) {
1373         register struct CallBack *cbnext;
1374         for (cb = itocb(fe->firstcb); cb; cb = cbnext) {
1375             cbnext = itocb(cb->cnext);
1376             host = h_itoh(cb->hhead);
1377             if (cb->status == CB_DELAYED) {
1378                 h_Hold_r(host);
1379                 if (!tthead || (TNorm(tthead) < TNorm(cb->thead))) {
1380                     tthead = cb->thead;
1381                 }
1382                 TDel(cb);
1383                 HDel(cb);
1384                 CDel(cb, 0);    /* Don't let CDel clean up the fe */
1385                 /* leave hold for MultiBreakVolumeCallBack to clear */
1386             } else {
1387                 ViceLog(125,
1388                         ("Found host %x (%s:%d) non-DELAYED cb for %u:%u:%u\n", 
1389                          host, afs_inet_ntoa_r(host->host, hoststr),
1390                          ntohs(host->port), fe->vnode, fe->unique, fe->volid));
1391             }
1392         }
1393         myfe = fe;
1394         fe = (struct FileEntry *)((struct object *)fe)->next;
1395         FreeFE(myfe);
1396     }
1397
1398     if (tthead) {
1399         ViceLog(125, ("Breaking volume %u\n", fid.Volume));
1400         henumParms.ncbas = 0;
1401         henumParms.fid = &fid;
1402         henumParms.thead = tthead;
1403         H_UNLOCK;
1404         h_Enumerate(MultiBreakVolumeLaterCallBack, (char *)&henumParms);
1405         H_LOCK;
1406         if (henumParms.ncbas) { /* do left-overs */
1407             struct AFSCBFids tf;
1408             tf.AFSCBFids_len = 1;
1409             tf.AFSCBFids_val = &fid;
1410
1411             MultiBreakCallBack_r(henumParms.cba, henumParms.ncbas, &tf, 0);
1412             henumParms.ncbas = 0;
1413         }
1414     }
1415     H_UNLOCK;
1416
1417     /* Arrange to be called again */
1418     return 1;
1419 }
1420
1421 /*
1422  * Delete all timed-out call back entries (to be called periodically by file
1423  * server)
1424  */
1425 int
1426 CleanupTimedOutCallBacks(void)
1427 {
1428     H_LOCK;
1429     CleanupTimedOutCallBacks_r();
1430     H_UNLOCK;
1431     return 0;
1432 }
1433
1434 int
1435 CleanupTimedOutCallBacks_r(void)
1436 {
1437     afs_uint32 now = CBtime(FT_ApproxTime());
1438     register afs_uint32 *thead;
1439     register struct CallBack *cb;
1440     register int ntimedout = 0;
1441     char hoststr[16];
1442
1443     while (tfirst <= now) {
1444         register int cbi;
1445         cbi = *(thead = THead(tfirst));
1446         if (cbi) {
1447             do {
1448                 cb = itocb(cbi);
1449                 cbi = cb->tnext;
1450                 ViceLog(8,
1451                         ("CCB: deleting timed out call back %x (%s:%d), (%u,%u,%u)\n",
1452                          h_itoh(cb->hhead)->host,
1453                          afs_inet_ntoa_r(h_itoh(cb->hhead)->host, hoststr),
1454                          h_itoh(cb->hhead)->port, itofe(cb->fhead)->volid,
1455                          itofe(cb->fhead)->vnode, itofe(cb->fhead)->unique));
1456                 HDel(cb);
1457                 CDel(cb, 1);
1458                 ntimedout++;
1459                 if (ntimedout > cbstuff.nblks) {
1460                     ViceLog(0, ("CCB: Internal Error -- shutting down...\n"));
1461                     DumpCallBackState();
1462                     ShutDownAndCore(PANIC);
1463                 }
1464             } while (cbi != *thead);
1465             *thead = 0;
1466         }
1467         tfirst++;
1468     }
1469     cbstuff.CBsTimedOut += ntimedout;
1470     ViceLog(7, ("CCB: deleted %d timed out callbacks\n", ntimedout));
1471     return (ntimedout > 0);
1472 }
1473
1474 static struct host *lih_host;
1475 static int lih_host_held;
1476
1477 /* This version does not allow 'host' to be selected unless its ActiveCall 
1478  * is newer than 'hostp' which is the host with the oldest ActiveCall from
1479  * the last pass (if it is provided).  We filter out any hosts that are
1480  * are held by other threads.
1481  */
1482 static int
1483 lih0_r(register struct host *host, register int held, void *rock)
1484 {
1485     struct host *hostp = (struct host *) rock;
1486     if (host->cblist
1487         && (hostp && host != hostp) 
1488         && (!held && !h_OtherHolds_r(host))
1489         && (!lih_host || host->ActiveCall < lih_host->ActiveCall) 
1490         && (!hostp || host->ActiveCall > hostp->ActiveCall)) {
1491         if (lih_host != NULL && lih_host_held) {
1492             h_Release_r(lih_host);
1493         }
1494         lih_host = host;
1495         lih_host_held = !held;
1496         held = 1;
1497     }
1498     return held;
1499 }
1500
1501 /* This version does not allow 'host' to be selected unless its ActiveCall 
1502  * is newer than 'hostp' which is the host with the oldest ActiveCall from
1503  * the last pass (if it is provided).  In this second varient, we do not 
1504  * prevent held hosts from being selected.
1505  */
1506 static int
1507 lih1_r(register struct host *host, register int held, void *rock)
1508 {
1509     struct host *hostp = (struct host *) rock;
1510
1511     if (host->cblist
1512         && (hostp && host != hostp) 
1513         && (!lih_host || host->ActiveCall < lih_host->ActiveCall) 
1514         && (!hostp || host->ActiveCall > hostp->ActiveCall)) {
1515         if (lih_host != NULL && lih_host_held) {
1516             h_Release_r(lih_host);
1517         }
1518         lih_host = host;
1519         lih_host_held = !held;
1520         held = 1;
1521     }
1522     return held;
1523 }
1524
1525 /* This could be upgraded to get more space each time */
1526 /* first pass: sequentially find the oldest host which isn't held by
1527                anyone for which we can clear callbacks;
1528                skipping 'hostp' */
1529 /* second pass: sequentially find the oldest host regardless of 
1530                whether or not the host is held; skipping 'hostp' */
1531 /* third pass: attempt to clear callbacks from 'hostp' */
1532 /* always called with hostp unlocked */
1533
1534 /* Note: hostlist is ordered most recently created host first and 
1535  * its order has no relationship to the most recently used. */
1536 extern struct host *hostList;
1537 static int
1538 GetSomeSpace_r(struct host *hostp, int locked)
1539 {
1540     register struct host *hp, *hp1, *hp2;
1541     int i = 0;
1542
1543     cbstuff.GotSomeSpaces++;
1544     ViceLog(5,
1545             ("GSS: First looking for timed out call backs via CleanupCallBacks\n"));
1546     if (CleanupTimedOutCallBacks_r()) {
1547         cbstuff.GSS3++;
1548         return 0;
1549     }
1550
1551     i = 0;
1552     hp1 = NULL;
1553     hp2 = hostList;
1554     do {
1555         lih_host = 0;
1556         h_Enumerate_r(i == 0 ? lih0_r : lih1_r, hp2, (char *)hp1);
1557         hp = lih_host;
1558         if (hp) {
1559             /* set in lih_r! private copy before giving up H_LOCK */
1560             int lih_host_held2=lih_host_held;   
1561             cbstuff.GSS4++;
1562             if ((hp != hostp) && !ClearHostCallbacks_r(hp, 0 /* not locked or held */ )) {
1563                 if (lih_host_held2)
1564                     h_Release_r(hp);
1565                 return 0;
1566             }
1567             if (lih_host_held2)
1568                 h_Release_r(hp);
1569             hp1 = hp;
1570             hp2 = hostList;
1571         } else {
1572             /*
1573              * Next time try getting callbacks from any host even if
1574              * it's deleted (that's actually great since we can freely
1575              * remove its callbacks) or it's held since the only other
1576              * option is starvation for the file server (i.e. until the
1577              * callback timeout arrives).
1578              */
1579             i++;
1580             hp1 = NULL;
1581             hp2 = hostList;
1582             cbstuff.GSS1++;
1583             ViceLog(5,
1584                     ("GSS: Try harder for longest inactive host cnt= %d\n",
1585                      i));
1586         }
1587     } while (i < 2);
1588
1589     /* Could not obtain space from other hosts, clear hostp's callback state */
1590     cbstuff.GSS2++;
1591     if (!locked) {
1592         h_Lock_r(hostp);
1593     }
1594     ClearHostCallbacks_r(hostp, 1 /*already locked */ );
1595     if (!locked) {
1596         h_Unlock_r(hostp);
1597     }
1598     return 0;
1599 }
1600
1601 /* locked - set if caller has already locked the host */
1602 static int
1603 ClearHostCallbacks_r(struct host *hp, int locked)
1604 {
1605     int code;
1606     int held = 0;
1607     char hoststr[16];
1608     struct rx_connection *cb_conn = NULL;
1609
1610     ViceLog(5,
1611             ("GSS: Delete longest inactive host %x (%s:%d)\n",
1612              hp, afs_inet_ntoa_r(hp->host, hoststr), ntohs(hp->port)));
1613     if (!(held = h_Held_r(hp)))
1614         h_Hold_r(hp);
1615
1616     /** Try a non-blocking lock. If the lock is already held return
1617       * after releasing hold on hp
1618       */
1619     if (!locked) {
1620         if (h_NBLock_r(hp)) {
1621             if (!held)
1622                 h_Release_r(hp);
1623             return 1;
1624         }
1625     }
1626     if (hp->Console & 2) {
1627         /*
1628          * If the special console field is set it means that a thread
1629          * is waiting in AddCallBack1 after it set pointers to the
1630          * file entry and/or callback entry. Because of the bogus
1631          * usage of h_hold it won't prevent from another thread, this
1632          * one, to remove all the callbacks so just to be safe we keep
1633          * a reference. NOTE, on the last phase we'll free the calling
1634          * host's callbacks but that's ok...
1635          */
1636         cbstuff.GSS5++;
1637     }
1638     DeleteAllCallBacks_r(hp, 1);
1639     if (hp->hostFlags & VENUSDOWN) {
1640         hp->hostFlags &= ~RESETDONE;    /* remember that we must do a reset */
1641     } else {
1642         /* host is up, try a call */
1643         hp->hostFlags &= ~ALTADDR;      /* alternate addresses are invalid */
1644         cb_conn = hp->callback_rxcon;
1645         rx_GetConnection(hp->callback_rxcon);
1646         if (hp->interface) {
1647             H_UNLOCK;
1648             code =
1649                 RXAFSCB_InitCallBackState3(cb_conn, &FS_HostUUID);
1650         } else {
1651             H_UNLOCK;
1652             code = RXAFSCB_InitCallBackState(cb_conn);
1653         }
1654         rx_PutConnection(cb_conn);
1655         cb_conn = NULL;
1656         H_LOCK;
1657         hp->hostFlags |= ALTADDR;       /* alternate addresses are valid */
1658         if (code) {
1659             /* failed, mark host down and need reset */
1660             hp->hostFlags |= VENUSDOWN;
1661             hp->hostFlags &= ~RESETDONE;
1662         } else {
1663             /* reset succeeded, we're done */
1664             hp->hostFlags |= RESETDONE;
1665         }
1666     }
1667     if (!locked) {
1668         h_Unlock_r(hp);
1669     }
1670     if (!held)
1671         h_Release_r(hp);
1672
1673     return 0;
1674 }
1675 #endif /* INTERPRET_DUMP */
1676
1677
1678 int
1679 PrintCallBackStats(void)
1680 {
1681     fprintf(stderr,
1682             "%d add CB, %d break CB, %d del CB, %d del FE, %d CB's timed out, %d space reclaim, %d del host\n",
1683             cbstuff.AddCallBacks, cbstuff.BreakCallBacks,
1684             cbstuff.DeleteCallBacks, cbstuff.DeleteFiles, cbstuff.CBsTimedOut,
1685             cbstuff.GotSomeSpaces, cbstuff.DeleteAllCallBacks);
1686     fprintf(stderr, "%d CBs, %d FEs, (%d of total of %d 16-byte blocks)\n",
1687             cbstuff.nCBs, cbstuff.nFEs, cbstuff.nCBs + cbstuff.nFEs,
1688             cbstuff.nblks);
1689
1690     return 0;
1691 }
1692
1693 #define MAGIC 0x12345678        /* To check byte ordering of dump when it is read in */
1694
1695 #ifndef INTERPRET_DUMP
1696
1697 #ifdef AFS_DEMAND_ATTACH_FS
1698 /*
1699  * demand attach fs
1700  * callback state serialization
1701  */
1702 static int cb_stateSaveTimeouts(struct fs_dump_state * state);
1703 static int cb_stateSaveFEHash(struct fs_dump_state * state);
1704 static int cb_stateSaveFEs(struct fs_dump_state * state);
1705 static int cb_stateSaveFE(struct fs_dump_state * state, struct FileEntry * fe);
1706 static int cb_stateRestoreTimeouts(struct fs_dump_state * state);
1707 static int cb_stateRestoreFEHash(struct fs_dump_state * state);
1708 static int cb_stateRestoreFEs(struct fs_dump_state * state);
1709 static int cb_stateRestoreFE(struct fs_dump_state * state);
1710 static int cb_stateRestoreCBs(struct fs_dump_state * state, struct FileEntry * fe, 
1711                               struct iovec * iov, int niovecs);
1712
1713 static int cb_stateVerifyFEHash(struct fs_dump_state * state);
1714 static int cb_stateVerifyFE(struct fs_dump_state * state, struct FileEntry * fe);
1715 static int cb_stateVerifyFCBList(struct fs_dump_state * state, struct FileEntry * fe);
1716 static int cb_stateVerifyTimeoutQueues(struct fs_dump_state * state);
1717
1718 static int cb_stateFEToDiskEntry(struct FileEntry *, struct FEDiskEntry *);
1719 static int cb_stateDiskEntryToFE(struct fs_dump_state * state,
1720                                  struct FEDiskEntry *, struct FileEntry *);
1721
1722 static int cb_stateCBToDiskEntry(struct CallBack *, struct CBDiskEntry *);
1723 static int cb_stateDiskEntryToCB(struct fs_dump_state * state,
1724                                  struct CBDiskEntry *, struct CallBack *);
1725
1726 static int cb_stateFillHeader(struct callback_state_header * hdr);
1727 static int cb_stateCheckHeader(struct callback_state_header * hdr);
1728
1729 static int cb_stateAllocMap(struct fs_dump_state * state);
1730
1731 int
1732 cb_stateSave(struct fs_dump_state * state)
1733 {
1734     int ret = 0;
1735
1736     AssignInt64(state->eof_offset, &state->hdr->cb_offset);
1737
1738     /* invalidate callback state header */
1739     memset(state->cb_hdr, 0, sizeof(struct callback_state_header));
1740     if (fs_stateWriteHeader(state, &state->hdr->cb_offset, state->cb_hdr,
1741                             sizeof(struct callback_state_header))) {
1742         ret = 1;
1743         goto done;
1744     }
1745
1746     fs_stateIncEOF(state, sizeof(struct callback_state_header));
1747
1748     /* dump timeout state */
1749     if (cb_stateSaveTimeouts(state)) {
1750         ret = 1;
1751         goto done;
1752     }
1753
1754     /* dump fe hashtable state */
1755     if (cb_stateSaveFEHash(state)) {
1756         ret = 1;
1757         goto done;
1758     }
1759
1760     /* dump callback state */
1761     if (cb_stateSaveFEs(state)) {
1762         ret = 1;
1763         goto done;
1764     }
1765
1766     /* write the callback state header to disk */
1767     cb_stateFillHeader(state->cb_hdr);
1768     if (fs_stateWriteHeader(state, &state->hdr->cb_offset, state->cb_hdr,
1769                             sizeof(struct callback_state_header))) {
1770         ret = 1;
1771         goto done;
1772     }
1773     
1774  done:
1775     return ret;
1776 }
1777
1778 int
1779 cb_stateRestore(struct fs_dump_state * state)
1780 {
1781     int ret = 0;
1782
1783     if (fs_stateReadHeader(state, &state->hdr->cb_offset, state->cb_hdr,
1784                            sizeof(struct callback_state_header))) {
1785         ret = 1;
1786         goto done;
1787     }
1788
1789     if (cb_stateCheckHeader(state->cb_hdr)) {
1790         ret = 1;
1791         goto done;
1792     }
1793
1794     if (cb_stateAllocMap(state)) {
1795         ret = 1;
1796         goto done;
1797     }
1798
1799     if (cb_stateRestoreTimeouts(state)) {
1800         ret = 1;
1801         goto done;
1802     }
1803
1804     if (cb_stateRestoreFEHash(state)) {
1805         ret = 1;
1806         goto done;
1807     }
1808
1809     /* restore FEs and CBs from disk */
1810     if (cb_stateRestoreFEs(state)) {
1811         ret = 1;
1812         goto done;
1813     }
1814
1815     /* restore the timeout queue heads */
1816     tfirst = state->cb_hdr->tfirst;
1817
1818  done:
1819     return ret;
1820 }
1821
1822 int
1823 cb_stateRestoreIndices(struct fs_dump_state * state)
1824 {
1825     int i, ret = 0;
1826     struct FileEntry * fe;
1827     struct CallBack * cb;
1828
1829     /* restore indices in the FileEntry structures */
1830     for (i = 1; i < state->fe_map.len; i++) {
1831         if (state->fe_map.entries[i].new_idx) {
1832             fe = itofe(state->fe_map.entries[i].new_idx);
1833
1834             /* restore the fe->fnext entry */
1835             if (fe_OldToNew(state, fe->fnext, &fe->fnext)) {
1836                 ret = 1;
1837                 goto done;
1838             }
1839
1840             /* restore the fe->firstcb entry */
1841             if (cb_OldToNew(state, fe->firstcb, &fe->firstcb)) {
1842                 ret = 1;
1843                 goto done;
1844             }
1845         }
1846     }
1847     
1848     /* restore indices in the CallBack structures */
1849     for (i = 1; i < state->cb_map.len; i++) {
1850         if (state->cb_map.entries[i].new_idx) {
1851             cb = itocb(state->cb_map.entries[i].new_idx);
1852
1853             /* restore the cb->cnext entry */
1854             if (cb_OldToNew(state, cb->cnext, &cb->cnext)) {
1855                 ret = 1;
1856                 goto done;
1857             }
1858             
1859             /* restore the cb->fhead entry */
1860             if (fe_OldToNew(state, cb->fhead, &cb->fhead)) {
1861                 ret = 1;
1862                 goto done;
1863             }
1864
1865             /* restore the cb->hhead entry */
1866             if (h_OldToNew(state, cb->hhead, &cb->hhead)) {
1867                 ret = 1;
1868                 goto done;
1869             }
1870
1871             /* restore the cb->tprev entry */
1872             if (cb_OldToNew(state, cb->tprev, &cb->tprev)) {
1873                 ret = 1;
1874                 goto done;
1875             }
1876
1877             /* restore the cb->tnext entry */
1878             if (cb_OldToNew(state, cb->tnext, &cb->tnext)) {
1879                 ret = 1;
1880                 goto done;
1881             }
1882
1883             /* restore the cb->hprev entry */
1884             if (cb_OldToNew(state, cb->hprev, &cb->hprev)) {
1885                 ret = 1;
1886                 goto done;
1887             }
1888
1889             /* restore the cb->hnext entry */
1890             if (cb_OldToNew(state, cb->hnext, &cb->hnext)) {
1891                 ret = 1;
1892                 goto done;
1893             }
1894         }
1895     }
1896
1897     /* restore the timeout queue head indices */
1898     for (i = 0; i < state->cb_timeout_hdr->records; i++) {
1899         if (cb_OldToNew(state, timeout[i], &timeout[i])) {
1900             ret = 1;
1901             goto done;
1902         }
1903     }
1904
1905     /* restore the FE hash table queue heads */
1906     for (i = 0; i < state->cb_fehash_hdr->records; i++) {
1907         if (fe_OldToNew(state, HashTable[i], &HashTable[i])) {
1908             ret = 1;
1909             goto done;
1910         }
1911     }
1912
1913  done:
1914     return ret;
1915 }
1916
1917 int
1918 cb_stateVerify(struct fs_dump_state * state)
1919 {
1920     int ret = 0;
1921
1922     if (cb_stateVerifyFEHash(state)) {
1923         ret = 1;
1924     }
1925
1926     if (cb_stateVerifyTimeoutQueues(state)) {
1927         ret = 1;
1928     }
1929
1930  done:
1931     return ret;
1932 }
1933
1934 static int
1935 cb_stateVerifyFEHash(struct fs_dump_state * state)
1936 {
1937     int ret = 0, i;
1938     struct FileEntry * fe;
1939     afs_uint32 fei, chain_len;
1940
1941     for (i = 0; i < FEHASH_SIZE; i++) {
1942         chain_len = 0;
1943         for (fei = HashTable[i], fe = itofe(fei);
1944              fe;
1945              fei = fe->fnext, fe = itofe(fei)) {
1946             if (fei > cbstuff.nblks) {
1947                 ViceLog(0, ("cb_stateVerifyFEHash: error: index out of range (fei=%d)\n", fei));
1948                 ret = 1;
1949                 break;
1950             }
1951             if (cb_stateVerifyFE(state, fe)) {
1952                 ret = 1;
1953             }
1954             if (chain_len > FS_STATE_FE_MAX_HASH_CHAIN_LEN) {
1955                 ViceLog(0, ("cb_stateVerifyFEHash: error: hash chain %d length exceeds %d; assuming there's a loop\n",
1956                             i, FS_STATE_FE_MAX_HASH_CHAIN_LEN));
1957                 ret = 1;
1958                 break;
1959             }
1960             chain_len++;
1961         }
1962     }
1963
1964  done:
1965     return ret;
1966 }
1967
1968 static int
1969 cb_stateVerifyFE(struct fs_dump_state * state, struct FileEntry * fe)
1970 {
1971     int ret = 0;
1972
1973     if ((fe->firstcb && !fe->ncbs) ||
1974         (!fe->firstcb && fe->ncbs)) {
1975         ViceLog(0, ("cb_stateVerifyFE: error: fe->firstcb does not agree with fe->ncbs (fei=%d, fe->firstcb=%d, fe->ncbs=%d)\n",
1976                     fetoi(fe), fe->firstcb, fe->ncbs));
1977         ret = 1;
1978     }
1979     if (cb_stateVerifyFCBList(state, fe)) {
1980         ViceLog(0, ("cb_stateVerifyFE: error: FCBList failed verification (fei=%d)\n", fetoi(fe)));
1981         ret = 1;
1982     }
1983
1984  done:
1985     return ret;
1986 }
1987
1988 static int
1989 cb_stateVerifyFCBList(struct fs_dump_state * state, struct FileEntry * fe)
1990 {
1991     int ret = 0;
1992     afs_uint32 cbi, fei, chain_len = 0;
1993     struct CallBack * cb;
1994
1995     fei = fetoi(fe);
1996
1997     for (cbi = fe->firstcb, cb = itocb(cbi);
1998          cb;
1999          cbi = cb->cnext, cb = itocb(cbi)) {
2000         if (cbi > cbstuff.nblks) {
2001             ViceLog(0, ("cb_stateVerifyFCBList: error: list index out of range (cbi=%d, ncbs=%d)\n",
2002                         cbi, cbstuff.nblks));
2003             ret = 1;
2004             goto done;
2005         }
2006         if (cb->fhead != fei) {
2007             ViceLog(0, ("cb_stateVerifyFCBList: error: cb->fhead != fei (fei=%d, cb->fhead=%d)\n",
2008                         fei, cb->fhead));
2009             ret = 1;
2010         }
2011         if (chain_len > FS_STATE_FCB_MAX_LIST_LEN) {
2012             ViceLog(0, ("cb_stateVerifyFCBList: error: list length exceeds %d (fei=%d); assuming there's a loop\n",
2013                         FS_STATE_FCB_MAX_LIST_LEN, fei));
2014             ret = 1;
2015             goto done;
2016         }
2017         chain_len++;
2018     }
2019
2020     if (fe->ncbs != chain_len) {
2021         ViceLog(0, ("cb_stateVerifyFCBList: error: list length mismatch (len=%d, fe->ncbs=%d)\n",
2022                     chain_len, fe->ncbs));
2023         ret = 1;
2024     }
2025
2026  done:
2027     return ret;
2028 }
2029
2030 int
2031 cb_stateVerifyHCBList(struct fs_dump_state * state, struct host * host)
2032 {
2033     int ret = 0;
2034     afs_uint32 hi, chain_len, cbi;
2035     struct CallBack *cb, *ncb;
2036
2037     hi = h_htoi(host);
2038     chain_len = 0;
2039
2040     for (cbi = host->cblist, cb = itocb(cbi);
2041          cb;
2042          cbi = cb->hnext, cb = ncb) {
2043         if (chain_len && (host->cblist == cbi)) {
2044             /* we've wrapped around the circular list, and everything looks ok */
2045             break;
2046         }
2047         if (cb->hhead != hi) {
2048             ViceLog(0, ("cb_stateVerifyHCBList: error: incorrect cb->hhead (cbi=%d, h->index=%d, cb->hhead=%d)\n",
2049                         cbi, hi, cb->hhead));
2050             ret = 1;
2051         }
2052         if (!cb->hprev || !cb->hnext) {
2053             ViceLog(0, ("cb_stateVerifyHCBList: error: null index in circular list (cbi=%d, h->index=%d)\n",
2054                         cbi, hi));
2055             ret = 1;
2056             goto done;
2057         }
2058         if ((cb->hprev > cbstuff.nblks) ||
2059             (cb->hnext > cbstuff.nblks)) {
2060             ViceLog(0, ("cb_stateVerifyHCBList: error: list index out of range (cbi=%d, h->index=%d, cb->hprev=%d, cb->hnext=%d, nCBs=%d)\n",
2061                         cbi, hi, cb->hprev, cb->hnext, cbstuff.nblks));
2062             ret = 1;
2063             goto done;
2064         }
2065         ncb = itocb(cb->hnext);
2066         if (cbi != ncb->hprev) {
2067             ViceLog(0, ("cb_stateVerifyHCBList: error: corrupt linked list (cbi=%d, h->index=%d)\n",
2068                         cbi, hi));
2069             ret = 1;
2070             goto done;
2071         }
2072         if (chain_len > FS_STATE_HCB_MAX_LIST_LEN) {
2073             ViceLog(0, ("cb_stateVerifyFCBList: error: list length exceeds %d (h->index=%d); assuming there's a loop\n",
2074                         FS_STATE_HCB_MAX_LIST_LEN, hi));
2075             ret = 1;
2076             goto done;
2077         }
2078         chain_len++;
2079     }
2080
2081  done:
2082     return ret;
2083 }
2084
2085 static int
2086 cb_stateVerifyTimeoutQueues(struct fs_dump_state * state)
2087 {
2088     int ret = 0, i;
2089     afs_uint32 cbi, chain_len;
2090     struct CallBack *cb, *ncb;
2091
2092     for (i = 0; i < CB_NUM_TIMEOUT_QUEUES; i++) {
2093         chain_len = 0;
2094         for (cbi = timeout[i], cb = itocb(cbi);
2095              cb;
2096              cbi = cb->tnext, cb = ncb) {
2097             if (chain_len && (cbi == timeout[i])) {
2098                 /* we've wrapped around the circular list, and everything looks ok */
2099                 break;
2100             }
2101             if (cbi > cbstuff.nblks) {
2102                 ViceLog(0, ("cb_stateVerifyTimeoutQueues: error: list index out of range (cbi=%d, tindex=%d)\n",
2103                             cbi, i));
2104                 ret = 1;
2105                 break;
2106             }
2107             if (itot(cb->thead) != &timeout[i]) {
2108                 ViceLog(0, ("cb_stateVerifyTimeoutQueues: error: cb->thead points to wrong timeout queue (tindex=%d, cbi=%d, cb->thead=%d)\n",
2109                             i, cbi, cb->thead));
2110                 ret = 1;
2111             }
2112             if (!cb->tprev || !cb->tnext) {
2113                 ViceLog(0, ("cb_stateVerifyTimeoutQueues: null index in circular list (cbi=%d, tindex=%d)\n",
2114                             cbi, i));
2115                 ret = 1;
2116                 break;
2117             }
2118             if ((cb->tprev > cbstuff.nblks) ||
2119                 (cb->tnext > cbstuff.nblks)) {
2120                 ViceLog(0, ("cb_stateVerifyTimeoutQueues: list index out of range (cbi=%d, tindex=%d, cb->tprev=%d, cb->tnext=%d, nCBs=%d)\n",
2121                             cbi, i, cb->tprev, cb->tnext, cbstuff.nblks));
2122                 ret = 1;
2123                 break;
2124             }
2125             ncb = itocb(cb->tnext);
2126             if (cbi != ncb->tprev) {
2127                 ViceLog(0, ("cb_stateVerifyTimeoutQueues: corrupt linked list (cbi=%d, tindex=%d)\n",
2128                             cbi, i));
2129                 ret = 1;
2130                 break;
2131             }
2132             if (chain_len > FS_STATE_TCB_MAX_LIST_LEN) {
2133                 ViceLog(0, ("cb_stateVerifyTimeoutQueues: list length exceeds %d (tindex=%d); assuming there's a loop\n",
2134                             FS_STATE_TCB_MAX_LIST_LEN, i));
2135                 ret = 1;
2136                 break;
2137             }
2138             chain_len++;
2139         }
2140     }
2141
2142  done:
2143     return ret;
2144 }
2145
2146 static int
2147 cb_stateSaveTimeouts(struct fs_dump_state * state)
2148 {
2149     int ret = 0;
2150     struct iovec iov[2];
2151
2152     AssignInt64(state->eof_offset, &state->cb_hdr->timeout_offset);
2153
2154     memset(state->cb_timeout_hdr, 0, sizeof(struct callback_state_fehash_header));
2155     state->cb_timeout_hdr->magic = CALLBACK_STATE_TIMEOUT_MAGIC;
2156     state->cb_timeout_hdr->records = CB_NUM_TIMEOUT_QUEUES;
2157     state->cb_timeout_hdr->len = sizeof(struct callback_state_timeout_header) +
2158         (state->cb_timeout_hdr->records * sizeof(afs_uint32));
2159
2160     iov[0].iov_base = (char *)state->cb_timeout_hdr;
2161     iov[0].iov_len = sizeof(struct callback_state_timeout_header);
2162     iov[1].iov_base = (char *)timeout;
2163     iov[1].iov_len = sizeof(timeout);
2164
2165     if (fs_stateSeek(state, &state->cb_hdr->timeout_offset)) {
2166         ret = 1;
2167         goto done;
2168     }
2169
2170     if (fs_stateWriteV(state, iov, 2)) {
2171         ret = 1;
2172         goto done;
2173     }
2174
2175     fs_stateIncEOF(state, state->cb_timeout_hdr->len);
2176
2177  done:
2178     return ret;
2179 }
2180
2181 static int
2182 cb_stateRestoreTimeouts(struct fs_dump_state * state)
2183 {
2184     int ret = 0, len;
2185
2186     if (fs_stateReadHeader(state, &state->cb_hdr->timeout_offset,
2187                            state->cb_timeout_hdr, 
2188                            sizeof(struct callback_state_timeout_header))) {
2189         ret = 1;
2190         goto done;
2191     }
2192
2193     if (state->cb_timeout_hdr->magic != CALLBACK_STATE_TIMEOUT_MAGIC) {
2194         ret = 1;
2195         goto done;
2196     }
2197     if (state->cb_timeout_hdr->records != CB_NUM_TIMEOUT_QUEUES) {
2198         ret = 1;
2199         goto done;
2200     }
2201
2202     len = state->cb_timeout_hdr->records * sizeof(afs_uint32);
2203
2204     if (state->cb_timeout_hdr->len !=
2205         (sizeof(struct callback_state_timeout_header) + len)) {
2206         ret = 1;
2207         goto done;
2208     }
2209
2210     if (fs_stateRead(state, timeout, len)) {
2211         ret = 1;
2212         goto done;
2213     }
2214
2215  done:
2216     return ret;
2217 }
2218
2219 static int
2220 cb_stateSaveFEHash(struct fs_dump_state * state)
2221 {
2222     int ret = 0;
2223     struct iovec iov[2];
2224
2225     AssignInt64(state->eof_offset, &state->cb_hdr->fehash_offset);
2226
2227     memset(state->cb_fehash_hdr, 0, sizeof(struct callback_state_fehash_header));
2228     state->cb_fehash_hdr->magic = CALLBACK_STATE_FEHASH_MAGIC;
2229     state->cb_fehash_hdr->records = FEHASH_SIZE;
2230     state->cb_fehash_hdr->len = sizeof(struct callback_state_fehash_header) +
2231         (state->cb_fehash_hdr->records * sizeof(afs_uint32));
2232
2233     iov[0].iov_base = (char *)state->cb_fehash_hdr;
2234     iov[0].iov_len = sizeof(struct callback_state_fehash_header);
2235     iov[1].iov_base = (char *)HashTable;
2236     iov[1].iov_len = sizeof(HashTable);
2237
2238     if (fs_stateSeek(state, &state->cb_hdr->fehash_offset)) {
2239         ret = 1;
2240         goto done;
2241     }
2242
2243     if (fs_stateWriteV(state, iov, 2)) {
2244         ret = 1;
2245         goto done;
2246     }
2247
2248     fs_stateIncEOF(state, state->cb_fehash_hdr->len);
2249
2250  done:
2251     return ret;
2252 }
2253
2254 static int
2255 cb_stateRestoreFEHash(struct fs_dump_state * state)
2256 {
2257     int ret = 0, len;
2258
2259     if (fs_stateReadHeader(state, &state->cb_hdr->fehash_offset,
2260                            state->cb_fehash_hdr, 
2261                            sizeof(struct callback_state_fehash_header))) {
2262         ret = 1;
2263         goto done;
2264     }
2265
2266     if (state->cb_fehash_hdr->magic != CALLBACK_STATE_FEHASH_MAGIC) {
2267         ret = 1;
2268         goto done;
2269     }
2270     if (state->cb_fehash_hdr->records != FEHASH_SIZE) {
2271         ret = 1;
2272         goto done;
2273     }
2274
2275     len = state->cb_fehash_hdr->records * sizeof(afs_uint32);
2276
2277     if (state->cb_fehash_hdr->len !=
2278         (sizeof(struct callback_state_fehash_header) + len)) {
2279         ret = 1;
2280         goto done;
2281     }
2282
2283     if (fs_stateRead(state, HashTable, len)) {
2284         ret = 1;
2285         goto done;
2286     }
2287
2288  done:
2289     return ret;
2290 }
2291
2292 static int
2293 cb_stateSaveFEs(struct fs_dump_state * state)
2294 {
2295     int ret = 0;
2296     register int fei, hash;
2297     register struct FileEntry *fe;
2298
2299     AssignInt64(state->eof_offset, &state->cb_hdr->fe_offset);
2300
2301     for (hash = 0; hash < FEHASH_SIZE ; hash++) {
2302         for (fei = HashTable[hash]; fei; fei = fe->fnext) {
2303             fe = itofe(fei);
2304             if (cb_stateSaveFE(state, fe)) {
2305                 ret = 1;
2306                 goto done;
2307             }
2308         }
2309     }
2310
2311  done:
2312     return ret;
2313 }
2314
2315 static int
2316 cb_stateRestoreFEs(struct fs_dump_state * state)
2317 {
2318     int count, nFEs, ret = 0;
2319
2320     nFEs = state->cb_hdr->nFEs;
2321
2322     for (count = 0; count < nFEs; count++) {
2323         if (cb_stateRestoreFE(state)) {
2324             ret = 1;
2325             goto done;
2326         }
2327     }
2328
2329  done:
2330     return ret;
2331 }
2332
2333 static int
2334 cb_stateSaveFE(struct fs_dump_state * state, struct FileEntry * fe)
2335 {
2336     int ret = 0, iovcnt, cbi, written = 0;
2337     afs_uint32 fei;
2338     struct callback_state_entry_header hdr;
2339     struct FEDiskEntry fedsk;
2340     struct CBDiskEntry cbdsk[16];
2341     struct iovec iov[16];
2342     struct CallBack *cb;
2343
2344     fei = fetoi(fe);
2345     if (fei > state->cb_hdr->fe_max) {
2346         state->cb_hdr->fe_max = fei;
2347     }
2348
2349     memset(&hdr, 0, sizeof(struct callback_state_entry_header));
2350
2351     if (cb_stateFEToDiskEntry(fe, &fedsk)) {
2352         ret = 1;
2353         goto done;
2354     }
2355
2356     iov[0].iov_base = (char *)&hdr;
2357     iov[0].iov_len = sizeof(hdr);
2358     iov[1].iov_base = (char *)&fedsk;
2359     iov[1].iov_len = sizeof(struct FEDiskEntry);
2360     iovcnt = 2;
2361
2362     for (cbi = fe->firstcb, cb = itocb(cbi); 
2363          cb != NULL; 
2364          cbi = cb->cnext, cb = itocb(cbi), hdr.nCBs++) {
2365         if (cbi > state->cb_hdr->cb_max) {
2366             state->cb_hdr->cb_max = cbi;
2367         }
2368         if (cb_stateCBToDiskEntry(cb, &cbdsk[iovcnt])) {
2369             ret = 1;
2370             goto done;
2371         }
2372         cbdsk[iovcnt].index = cbi;
2373         iov[iovcnt].iov_base = (char *)&cbdsk[iovcnt];
2374         iov[iovcnt].iov_len = sizeof(struct CBDiskEntry);
2375         iovcnt++;
2376         if ((iovcnt == 16) || (!cb->cnext)) {
2377             if (fs_stateWriteV(state, iov, iovcnt)) {
2378                 ret = 1;
2379                 goto done;
2380             }
2381             written = 1;
2382             iovcnt = 0;
2383         }
2384     }
2385
2386     hdr.magic = CALLBACK_STATE_ENTRY_MAGIC;
2387     hdr.len = sizeof(hdr) + sizeof(struct FEDiskEntry) + 
2388         (hdr.nCBs * sizeof(struct CBDiskEntry));
2389
2390     if (!written) {
2391         if (fs_stateWriteV(state, iov, iovcnt)) {
2392             ret = 1;
2393             goto done;
2394         }
2395     } else {
2396         if (fs_stateWriteHeader(state, &state->eof_offset, &hdr, sizeof(hdr))) {
2397             ret = 1;
2398             goto done;
2399         }
2400     }
2401
2402     fs_stateIncEOF(state, hdr.len);
2403
2404     if (written) {
2405         if (fs_stateSeek(state, &state->eof_offset)) {
2406             ret = 1;
2407             goto done;
2408         }
2409     }
2410
2411     state->cb_hdr->nFEs++;
2412     state->cb_hdr->nCBs += hdr.nCBs;
2413
2414  done:
2415     return ret;
2416 }
2417
2418 static int
2419 cb_stateRestoreFE(struct fs_dump_state * state)
2420 {
2421     int ret = 0, iovcnt, nCBs;
2422     struct callback_state_entry_header hdr;
2423     struct FEDiskEntry fedsk;
2424     struct CBDiskEntry cbdsk[16];
2425     struct iovec iov[16];
2426     struct FileEntry * fe;
2427     struct CallBack * cb;
2428
2429     iov[0].iov_base = (char *)&hdr;
2430     iov[0].iov_len = sizeof(hdr);
2431     iov[1].iov_base = (char *)&fedsk;
2432     iov[1].iov_len = sizeof(fedsk);
2433     iovcnt = 2;
2434
2435     if (fs_stateReadV(state, iov, iovcnt)) {
2436         ret = 1;
2437         goto done;
2438     }
2439
2440     if (hdr.magic != CALLBACK_STATE_ENTRY_MAGIC) {
2441         ret = 1;
2442         goto done;
2443     }
2444
2445     fe = GetFE();
2446     if (fe == NULL) {
2447         ViceLog(0, ("cb_stateRestoreFE: ran out of free FileEntry structures\n"));
2448         ret = 1;
2449         goto done;
2450     }
2451
2452     if (cb_stateDiskEntryToFE(state, &fedsk, fe)) {
2453         ret = 1;
2454         goto done;
2455     }
2456
2457     if (hdr.nCBs) {
2458         for (iovcnt = 0, nCBs = 0;
2459              nCBs < hdr.nCBs;
2460              nCBs++) {
2461             iov[iovcnt].iov_base = (char *)&cbdsk[iovcnt];
2462             iov[iovcnt].iov_len = sizeof(struct CBDiskEntry);
2463             iovcnt++;
2464             if ((iovcnt == 16) || (nCBs == hdr.nCBs - 1)) {
2465                 if (fs_stateReadV(state, iov, iovcnt)) {
2466                     ret = 1;
2467                     goto done;
2468                 }
2469                 if (cb_stateRestoreCBs(state, fe, iov, iovcnt)) {
2470                     ret = 1;
2471                     goto done;
2472                 }
2473                 iovcnt = 0;
2474             }
2475         }
2476     }
2477     
2478  done:
2479     return ret;
2480 }
2481
2482 static int
2483 cb_stateRestoreCBs(struct fs_dump_state * state, struct FileEntry * fe, 
2484                    struct iovec * iov, int niovecs)
2485 {
2486     int ret = 0, idx;
2487     register struct CallBack * cb;
2488     struct CBDiskEntry * cbdsk;
2489     afs_uint32 fei;
2490
2491     fei = fetoi(fe);
2492
2493     for (idx = 0; idx < niovecs; idx++) {
2494         cbdsk = (struct CBDiskEntry *) iov[idx].iov_base;
2495         if ((cb = GetCB()) == NULL) {
2496             ViceLog(0, ("cb_stateRestoreCBs: ran out of free CallBack structures\n"));
2497             ret = 1;
2498             goto done;
2499         }
2500         if (cb_stateDiskEntryToCB(state, cbdsk, cb)) {
2501             ViceLog(0, ("cb_stateRestoreCBs: corrupt CallBack disk entry\n"));
2502             ret = 1;
2503             goto done;
2504         }
2505     }
2506
2507  done:
2508     return ret;
2509 }
2510
2511
2512 static int
2513 cb_stateFillHeader(struct callback_state_header * hdr)
2514 {
2515     hdr->stamp.magic = CALLBACK_STATE_MAGIC;
2516     hdr->stamp.version = CALLBACK_STATE_VERSION;
2517     hdr->tfirst = tfirst;
2518     return 0;
2519 }
2520
2521 static int
2522 cb_stateCheckHeader(struct callback_state_header * hdr)
2523 {
2524     int ret = 0;
2525
2526     if (hdr->stamp.magic != CALLBACK_STATE_MAGIC) {
2527         ret = 1;
2528     } else if (hdr->stamp.version != CALLBACK_STATE_VERSION) {
2529         ret = 1;
2530     } else if ((hdr->nFEs > cbstuff.nblks) || (hdr->nCBs > cbstuff.nblks)) {
2531         ViceLog(0, ("cb_stateCheckHeader: saved callback state larger than callback memory allocation\n"));
2532         ret = 1;
2533     }
2534     return ret;
2535 }
2536
2537 /* disk entry conversion routines */
2538 static int
2539 cb_stateFEToDiskEntry(struct FileEntry * in, struct FEDiskEntry * out)
2540 {
2541     memcpy(&out->fe, in, sizeof(struct FileEntry));
2542     out->index = fetoi(in);
2543     return 0;
2544 }
2545
2546 static int
2547 cb_stateDiskEntryToFE(struct fs_dump_state * state, 
2548                       struct FEDiskEntry * in, struct FileEntry * out)
2549 {
2550     int ret = 0;
2551
2552     memcpy(out, &in->fe, sizeof(struct FileEntry));
2553
2554     /* setup FE map entry */
2555     if (!in->index || (in->index >= state->fe_map.len)) {
2556         ViceLog(0, ("cb_stateDiskEntryToFE: index (%d) out of range",
2557                     in->index));
2558         ret = 1;
2559         goto done;
2560     }
2561     state->fe_map.entries[in->index].old_idx = in->index;
2562     state->fe_map.entries[in->index].new_idx = fetoi(out);
2563
2564  done:
2565     return ret;
2566 }
2567
2568 static int
2569 cb_stateCBToDiskEntry(struct CallBack * in, struct CBDiskEntry * out)
2570 {
2571     memcpy(&out->cb, in, sizeof(struct CallBack));
2572     out->index = cbtoi(in);
2573     return 0;
2574 }
2575
2576 static int
2577 cb_stateDiskEntryToCB(struct fs_dump_state * state,
2578                       struct CBDiskEntry * in, struct CallBack * out)
2579 {
2580     int ret = 0;
2581
2582     memcpy(out, &in->cb, sizeof(struct CallBack));
2583
2584     /* setup CB map entry */
2585     if (!in->index || (in->index >= state->cb_map.len)) {
2586         ViceLog(0, ("cb_stateDiskEntryToCB: index (%d) out of range\n",
2587                     in->index));
2588         ret = 1;
2589         goto done;
2590     }
2591     state->cb_map.entries[in->index].old_idx = in->index;
2592     state->cb_map.entries[in->index].new_idx = cbtoi(out);
2593
2594  done:
2595     return ret;
2596 }
2597
2598 /* index map routines */
2599 static int
2600 cb_stateAllocMap(struct fs_dump_state * state)
2601 {
2602     state->fe_map.len = state->cb_hdr->fe_max + 1;
2603     state->cb_map.len = state->cb_hdr->cb_max + 1;
2604     state->fe_map.entries = (struct idx_map_entry_t *)
2605         calloc(state->fe_map.len, sizeof(struct idx_map_entry_t));
2606     state->cb_map.entries = (struct idx_map_entry_t *)
2607         calloc(state->cb_map.len, sizeof(struct idx_map_entry_t));
2608     return ((state->fe_map.entries != NULL) && (state->cb_map.entries != NULL)) ? 0 : 1;
2609 }
2610
2611 int
2612 fe_OldToNew(struct fs_dump_state * state, afs_uint32 old, afs_uint32 * new)
2613 {
2614     int ret = 0;
2615
2616     /* FEs use a one-based indexing system, so old==0 implies no mapping */
2617     if (!old) {
2618         *new = 0;
2619         goto done;
2620     }
2621
2622     if (old >= state->fe_map.len) {
2623         ViceLog(0, ("fe_OldToNew: index %d is out of range\n", old));
2624         ret = 1;
2625     } else if (state->fe_map.entries[old].old_idx != old) { /* sanity check */
2626         ViceLog(0, ("fe_OldToNew: index %d points to an invalid FileEntry record\n", old));
2627         ret = 1;
2628     } else {
2629         *new = state->fe_map.entries[old].new_idx;
2630     }
2631
2632  done:
2633     return ret;
2634 }
2635
2636 int
2637 cb_OldToNew(struct fs_dump_state * state, afs_uint32 old, afs_uint32 * new)
2638 {
2639     int ret = 0;
2640
2641     /* CBs use a one-based indexing system, so old==0 implies no mapping */
2642     if (!old) {
2643         *new = 0;
2644         goto done;
2645     }
2646
2647     if (old >= state->cb_map.len) {
2648         ViceLog(0, ("cb_OldToNew: index %d is out of range\n", old));
2649         ret = 1;
2650     } else if (state->cb_map.entries[old].old_idx != old) { /* sanity check */
2651         ViceLog(0, ("cb_OldToNew: index %d points to an invalid CallBack record\n", old));
2652         ret = 1;
2653     } else {
2654         *new = state->cb_map.entries[old].new_idx;
2655     }
2656
2657  done:
2658     return ret;
2659 }
2660 #endif /* AFS_DEMAND_ATTACH_FS */
2661
2662 int
2663 DumpCallBackState(void)
2664 {
2665     int fd, oflag;
2666     afs_uint32 magic = MAGIC, freelisthead;
2667     time_t now = FT_ApproxTime();
2668
2669     oflag = O_WRONLY | O_CREAT | O_TRUNC;
2670 #ifdef AFS_NT40_ENV
2671     oflag |= O_BINARY;
2672 #endif
2673     fd = open(AFSDIR_SERVER_CBKDUMP_FILEPATH, oflag, 0666);
2674     if (fd < 0) {
2675         ViceLog(0,
2676                 ("Couldn't create callback dump file %s\n",
2677                  AFSDIR_SERVER_CBKDUMP_FILEPATH));
2678         return 0;
2679     }
2680     (void)write(fd, &magic, sizeof(magic));
2681     (void)write(fd, &now, sizeof(now));
2682     (void)write(fd, &cbstuff, sizeof(cbstuff));
2683     (void)write(fd, TimeOuts, sizeof(TimeOuts));
2684     (void)write(fd, timeout, sizeof(timeout));
2685     (void)write(fd, &tfirst, sizeof(tfirst));
2686     freelisthead = cbtoi((struct CallBack *)CBfree);
2687     (void)write(fd, &freelisthead, sizeof(freelisthead));       /* This is a pointer */
2688     freelisthead = fetoi((struct FileEntry *)FEfree);
2689     (void)write(fd, &freelisthead, sizeof(freelisthead));       /* This is a pointer */
2690     (void)write(fd, HashTable, sizeof(HashTable));
2691     (void)write(fd, &CB[1], sizeof(CB[1]) * cbstuff.nblks);     /* CB stuff */
2692     (void)write(fd, &FE[1], sizeof(FE[1]) * cbstuff.nblks);     /* FE stuff */
2693     close(fd);
2694
2695     return 0;
2696 }
2697
2698 #endif /* !INTERPRET_DUMP */
2699
2700 #ifdef INTERPRET_DUMP
2701
2702 /* This is only compiled in for the callback analyzer program */
2703 /* Returns the time of the dump */
2704 time_t
2705 ReadDump(char *file)
2706 {
2707     int fd, oflag;
2708     afs_uint32 magic, freelisthead;
2709     afs_uint32 now;
2710
2711     oflag = O_RDONLY;
2712 #ifdef AFS_NT40_ENV
2713     oflag |= O_BINARY;
2714 #endif
2715     fd = open(file, oflag);
2716     if (fd < 0) {
2717         fprintf(stderr, "Couldn't read dump file %s\n", file);
2718         exit(1);
2719     }
2720     read(fd, &magic, sizeof(magic));
2721     if (magic != MAGIC) {
2722         fprintf(stderr,
2723                 "Magic number of %s is invalid.  You might be trying to\n",
2724                 file);
2725         fprintf(stderr,
2726                 "run this program on a machine type with a different byte ordering.\n");
2727         exit(1);
2728     }
2729     read(fd, &now, sizeof(now));
2730     read(fd, &cbstuff, sizeof(cbstuff));
2731     read(fd, TimeOuts, sizeof(TimeOuts));
2732     read(fd, timeout, sizeof(timeout));
2733     read(fd, &tfirst, sizeof(tfirst));
2734     read(fd, &freelisthead, sizeof(freelisthead));
2735     CB = ((struct CallBack
2736            *)(calloc(cbstuff.nblks, sizeof(struct CallBack)))) - 1;
2737     FE = ((struct FileEntry
2738            *)(calloc(cbstuff.nblks, sizeof(struct FileEntry)))) - 1;
2739     CBfree = (struct CallBack *)itocb(freelisthead);
2740     read(fd, &freelisthead, sizeof(freelisthead));
2741     FEfree = (struct FileEntry *)itofe(freelisthead);
2742     read(fd, HashTable, sizeof(HashTable));
2743     read(fd, &CB[1], sizeof(CB[1]) * cbstuff.nblks);    /* CB stuff */
2744     read(fd, &FE[1], sizeof(FE[1]) * cbstuff.nblks);    /* FE stuff */
2745     if (close(fd)) {
2746         perror("Error reading dumpfile");
2747         exit(1);
2748     }
2749     return now;
2750 }
2751
2752 #ifdef AFS_NT40_ENV
2753 #include "AFS_component_version_number.h"
2754 #else
2755 #include "AFS_component_version_number.c"
2756 #endif
2757
2758 int
2759 main(int argc, char **argv)
2760 {
2761     int err = 0, cbi = 0, stats = 0, noptions = 0, all = 0, vol = 0, raw = 0;
2762     static AFSFid fid;
2763     register struct FileEntry *fe;
2764     register struct CallBack *cb;
2765     time_t now;
2766
2767     memset(&fid, 0, sizeof(fid));
2768     argc--;
2769     argv++;
2770     while (argc && **argv == '-') {
2771         noptions++;
2772         argc--;
2773         if (!strcmp(*argv, "-host")) {
2774             if (argc < 1) {
2775                 err++;
2776                 break;
2777             }
2778             argc--;
2779             cbi = atoi(*++argv);
2780         } else if (!strcmp(*argv, "-fid")) {
2781             if (argc < 2) {
2782                 err++;
2783                 break;
2784             }
2785             argc -= 3;
2786             fid.Volume = atoi(*++argv);
2787             fid.Vnode = atoi(*++argv);
2788             fid.Unique = atoi(*++argv);
2789         } else if (!strcmp(*argv, "-time")) {
2790             fprintf(stderr, "-time not supported\n");
2791             exit(1);
2792         } else if (!strcmp(*argv, "-stats")) {
2793             stats = 1;
2794         } else if (!strcmp(*argv, "-all")) {
2795             all = 1;
2796         } else if (!strcmp(*argv, "-raw")) {
2797             raw = 1;
2798         } else if (!strcmp(*argv, "-volume")) {
2799             if (argc < 1) {
2800                 err++;
2801                 break;
2802             }
2803             argc--;
2804             vol = atoi(*++argv);
2805         } else
2806             err++;
2807         argv++;
2808     }
2809     if (err || argc != 1) {
2810         fprintf(stderr,
2811                 "Usage: cbd [-host cbid] [-fid volume vnode] [-stats] [-all] callbackdumpfile\n");
2812         fprintf(stderr,
2813                 "[cbid is shown for each host in the hosts.dump file]\n");
2814         exit(1);
2815     }
2816     now = ReadDump(*argv);
2817     if (stats || noptions == 0) {
2818         time_t uxtfirst = UXtime(tfirst);
2819         printf("The time of the dump was %u %s", (unsigned int) now, ctime(&now));
2820         printf("The last time cleanup ran was %u %s", (unsigned int) uxtfirst,
2821                ctime(&uxtfirst));
2822         PrintCallBackStats();
2823     }
2824     if (all || vol) {
2825         int hash;
2826         afs_uint32 *feip;
2827         struct CallBack *cb;
2828         struct FileEntry *fe;
2829
2830         for (hash = 0; hash < FEHASH_SIZE; hash++) {
2831             for (feip = &HashTable[hash]; fe = itofe(*feip);) {
2832                 if (!vol || (fe->volid == vol)) {
2833                     register struct CallBack *cbnext;
2834                     for (cb = itocb(fe->firstcb); cb; cb = cbnext) {
2835                         PrintCB(cb, now);
2836                         cbnext = itocb(cb->cnext);
2837                     }
2838                     *feip = fe->fnext;
2839                 } else {
2840                     feip = &fe->fnext;
2841                 }
2842             }
2843         }
2844     }
2845     if (cbi) {
2846         afs_uint32 cfirst = cbi;
2847         do {
2848             cb = itocb(cbi);
2849             PrintCB(cb, now);
2850             cbi = cb->hnext;
2851         } while (cbi != cfirst);
2852     }
2853     if (fid.Volume) {
2854         fe = FindFE(&fid);
2855         if (!fe) {
2856             printf("No callback entries for %u.%u\n", fid.Volume, fid.Vnode);
2857             exit(1);
2858         }
2859         cb = itocb(fe->firstcb);
2860         while (cb) {
2861             PrintCB(cb, now);
2862             cb = itocb(cb->cnext);
2863         }
2864     }
2865     if (raw) {
2866         afs_int32 *p, i;
2867         for (i = 1; i < cbstuff.nblks; i++) {
2868             p = (afs_int32 *) & FE[i];
2869             printf("%d:%12x%12x%12x%12x\n", i, p[0], p[1], p[2], p[3]);
2870         }
2871     }
2872     exit(0);
2873 }
2874
2875 void
2876 PrintCB(register struct CallBack *cb, afs_uint32 now)
2877 {
2878     struct FileEntry *fe = itofe(cb->fhead);
2879     time_t expires = TIndexToTime(cb->thead);
2880
2881     if (fe == NULL)
2882         return;
2883
2884     printf("vol=%u vn=%u cbs=%d hi=%d st=%d fest=%d, exp in %lu secs at %s",
2885            fe->volid, fe->vnode, fe->ncbs, cb->hhead, cb->status, fe->status,
2886            expires - now, ctime(&expires));
2887 }
2888
2889 #endif
2890
2891 #if     !defined(INTERPRET_DUMP)
2892 /*
2893 ** try breaking calbacks on afidp from host. Use multi_rx.
2894 ** return 0 on success, non-zero on failure
2895 */
2896 int
2897 MultiBreakCallBackAlternateAddress(struct host *host, struct AFSCBFids *afidp)
2898 {
2899     int retVal;
2900     H_LOCK;
2901     retVal = MultiBreakCallBackAlternateAddress_r(host, afidp);
2902     H_UNLOCK;
2903     return retVal;
2904 }
2905
2906 int
2907 MultiBreakCallBackAlternateAddress_r(struct host *host,
2908                                      struct AFSCBFids *afidp)
2909 {
2910     int i, j;
2911     struct rx_connection **conns;
2912     struct rx_connection *connSuccess = 0;
2913     struct AddrPort *interfaces;
2914     static struct rx_securityClass *sc = 0;
2915     static struct AFSCBs tc = { 0, 0 };
2916     char hoststr[16];
2917
2918     /* nothing more can be done */
2919     if (!host->interface)
2920         return 1;               /* failure */
2921
2922     /* the only address is the primary interface */
2923     if (host->interface->numberOfInterfaces <= 1)
2924         return 1;               /* failure */
2925
2926     /* initialise a security object only once */
2927     if (!sc)
2928         sc = rxnull_NewClientSecurityObject();
2929
2930     i = host->interface->numberOfInterfaces;
2931     interfaces = calloc(i, sizeof(struct AddrPort));
2932     conns = calloc(i, sizeof(struct rx_connection *));
2933     if (!interfaces || !conns) {
2934         ViceLog(0,
2935                 ("Failed malloc in MultiBreakCallBackAlternateAddress_r\n"));
2936         assert(0);
2937     }
2938
2939     /* initialize alternate rx connections */
2940     for (i = 0, j = 0; i < host->interface->numberOfInterfaces; i++) {
2941         /* this is the current primary address */
2942         if (host->host == host->interface->interface[i].addr &&
2943             host->port == host->interface->interface[i].port)
2944             continue;
2945
2946         interfaces[j] = host->interface->interface[i];
2947         conns[j] =
2948             rx_NewConnection(interfaces[j].addr, 
2949                              interfaces[j].port, 1, sc, 0);
2950         rx_SetConnDeadTime(conns[j], 2);
2951         rx_SetConnHardDeadTime(conns[j], AFS_HARDDEADTIME);
2952         j++;
2953     }
2954
2955     assert(j);                  /* at least one alternate address */
2956     ViceLog(125,
2957             ("Starting multibreakcall back on all addr for host %x (%s:%d)\n",
2958              host, afs_inet_ntoa_r(host->host, hoststr), ntohs(host->port)));
2959     H_UNLOCK;
2960     multi_Rx(conns, j) {
2961         multi_RXAFSCB_CallBack(afidp, &tc);
2962         if (!multi_error) {
2963             /* first success */
2964             H_LOCK;
2965             if (host->callback_rxcon)
2966                 rx_DestroyConnection(host->callback_rxcon);
2967             host->callback_rxcon = conns[multi_i];
2968             h_DeleteHostFromAddrHashTable_r(host->host, host->port, host);
2969             host->host = interfaces[multi_i].addr;
2970             host->port = interfaces[multi_i].port;
2971             h_AddHostToAddrHashTable_r(host->host, host->port, host);
2972             connSuccess = conns[multi_i];
2973             rx_SetConnDeadTime(host->callback_rxcon, 50);
2974             rx_SetConnHardDeadTime(host->callback_rxcon, AFS_HARDDEADTIME);
2975             ViceLog(125,
2976                     ("multibreakcall success with addr %s:%d\n",
2977                      afs_inet_ntoa_r(interfaces[multi_i].addr, hoststr),
2978                      ntohs(interfaces[multi_i].port)));
2979             H_UNLOCK;
2980             multi_Abort;
2981         }
2982     }
2983     multi_End_Ignore;
2984     H_LOCK;
2985     /* Destroy all connections except the one on which we succeeded */
2986     for (i = 0; i < j; i++)
2987         if (conns[i] != connSuccess)
2988             rx_DestroyConnection(conns[i]);
2989
2990     free(interfaces);
2991     free(conns);
2992
2993     if (connSuccess)
2994         return 0;               /* success */
2995     else
2996         return 1;               /* failure */
2997 }
2998
2999
3000 /*
3001 ** try multi_RX probes to host. 
3002 ** return 0 on success, non-0 on failure
3003 */
3004 int
3005 MultiProbeAlternateAddress_r(struct host *host)
3006 {
3007     int i, j;
3008     struct rx_connection **conns;
3009     struct rx_connection *connSuccess = 0;
3010     struct AddrPort *interfaces;
3011     static struct rx_securityClass *sc = 0;
3012     char hoststr[16];
3013
3014     /* nothing more can be done */
3015     if (!host->interface)
3016         return 1;               /* failure */
3017
3018     /* the only address is the primary interface */
3019     if (host->interface->numberOfInterfaces <= 1)
3020         return 1;               /* failure */
3021
3022     /* initialise a security object only once */
3023     if (!sc)
3024         sc = rxnull_NewClientSecurityObject();
3025
3026     i = host->interface->numberOfInterfaces;
3027     interfaces = calloc(i, sizeof(struct AddrPort));
3028     conns = calloc(i, sizeof(struct rx_connection *));
3029     if (!interfaces || !conns) {
3030         ViceLog(0, ("Failed malloc in MultiProbeAlternateAddress_r\n"));
3031         assert(0);
3032     }
3033
3034     /* initialize alternate rx connections */
3035     for (i = 0, j = 0; i < host->interface->numberOfInterfaces; i++) {
3036         /* this is the current primary address */
3037         if (host->host == host->interface->interface[i].addr &&
3038             host->port == host->interface->interface[i].port)
3039             continue;
3040
3041         interfaces[j] = host->interface->interface[i];
3042         conns[j] =
3043             rx_NewConnection(interfaces[j].addr, 
3044                              interfaces[j].port, 1, sc, 0);
3045         rx_SetConnDeadTime(conns[j], 2);
3046         rx_SetConnHardDeadTime(conns[j], AFS_HARDDEADTIME);
3047         j++;
3048     }
3049
3050     assert(j);                  /* at least one alternate address */
3051     ViceLog(125,
3052             ("Starting multiprobe on all addr for host %x (%s:%d)\n",
3053              host, afs_inet_ntoa_r(host->host, hoststr),
3054              ntohs(host->port)));
3055     H_UNLOCK;
3056     multi_Rx(conns, j) {
3057         multi_RXAFSCB_ProbeUuid(&host->interface->uuid);
3058         if (!multi_error) {
3059             /* first success */
3060             H_LOCK;
3061             if (host->callback_rxcon)
3062                 rx_DestroyConnection(host->callback_rxcon);
3063             host->callback_rxcon = conns[multi_i];
3064             h_DeleteHostFromAddrHashTable_r(host->host, host->port, host);
3065             host->host = interfaces[multi_i].addr;
3066             host->port = interfaces[multi_i].port;
3067             h_AddHostToAddrHashTable_r(host->host, host->port, host);
3068             connSuccess = conns[multi_i];
3069             rx_SetConnDeadTime(host->callback_rxcon, 50);
3070             rx_SetConnHardDeadTime(host->callback_rxcon, AFS_HARDDEADTIME);
3071             ViceLog(125,
3072                     ("multiprobe success with addr %s:%d\n",
3073                      afs_inet_ntoa_r(interfaces[multi_i].addr, hoststr),
3074                      ntohs(interfaces[multi_i].port)));
3075             H_UNLOCK;
3076             multi_Abort;
3077         } else {
3078             ViceLog(125,
3079                     ("multiprobe failure with addr %s:%d\n",
3080                      afs_inet_ntoa_r(interfaces[multi_i].addr, hoststr),
3081                      ntohs(interfaces[multi_i].port)));
3082             
3083             /* This is less than desirable but its the best we can do.
3084              * The AFS Cache Manager will return either 0 for a Uuid  
3085              * match and a 1 for a non-match.   If the error is 1 we 
3086              * therefore know that our mapping of IP address to Uuid 
3087              * is wrong.   We should attempt to find the correct
3088              * Uuid and fix the host tables.
3089              */
3090             if (multi_error == 1) {
3091                 /* remove the current alternate address from this host */
3092                 H_LOCK;
3093                 removeInterfaceAddr_r(host, interfaces[multi_i].addr, interfaces[multi_i].port);
3094                 H_UNLOCK;
3095             }
3096         }
3097 #ifdef AFS_DEMAND_ATTACH_FS
3098         /* try to bail ASAP if the fileserver is shutting down */
3099         FS_STATE_RDLOCK;
3100         if (fs_state.mode == FS_MODE_SHUTDOWN) {
3101             FS_STATE_UNLOCK;
3102             multi_Abort;
3103         }
3104         FS_STATE_UNLOCK;
3105 #endif
3106     }
3107     multi_End_Ignore;
3108     H_LOCK;
3109     /* Destroy all connections except the one on which we succeeded */
3110     for (i = 0; i < j; i++)
3111         if (conns[i] != connSuccess)
3112             rx_DestroyConnection(conns[i]);
3113
3114     free(interfaces);
3115     free(conns);
3116
3117     if (connSuccess)
3118         return 0;               /* success */
3119     else
3120         return 1;               /* failure */
3121 }
3122
3123 #endif /* !defined(INTERPRET_DUMP) */