ubik: Don't RECFOUNDDB if can't contact most sites
[openafs.git] / src / ubik / recovery.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  *
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  */
9
10 #include <afsconfig.h>
11 #include <afs/param.h>
12
13 #include <roken.h>
14
15 #include <afs/opr.h>
16
17 #ifdef AFS_PTHREAD_ENV
18 # include <opr/lock.h>
19 #else
20 # include <opr/lockstub.h>
21 #endif
22
23 #include <rx/rx.h>
24 #include <afs/afsutil.h>
25 #include <afs/cellconfig.h>
26
27
28 #define UBIK_INTERNALS
29 #include "ubik.h"
30 #include "ubik_int.h"
31
32 /*! \file
33  * This module is responsible for determining when the system has
34  * recovered to the point that it can handle new transactions.  It
35  * replays logs, polls to determine the current dbase after a crash,
36  * and distributes the new database to the others.
37  *
38  * The sync site associates a version number with each database.  It
39  * broadcasts the version associated with its current dbase in every
40  * one of its beacon messages.  When the sync site send a dbase to a
41  * server, it also sends the db's version.  A non-sync site server can
42  * tell if it has the right dbase version by simply comparing the
43  * version from the beacon message \p uvote_dbVersion with the version
44  * associated with the database \p ubik_dbase->version.  The sync site
45  * itself simply has one counter to keep track of all of this (again
46  * \p ubik_dbase->version).
47  *
48  * sync site: routine called when the sync site loses its quorum; this
49  * procedure is called "up" from the beacon package.  It resyncs the
50  * dbase and nudges the recovery daemon to try to propagate out the
51  * changes.  It also resets the recovery daemon's state, since
52  * recovery must potentially find a new dbase to propagate out.  This
53  * routine should not do anything with variables used by non-sync site
54  * servers.
55  */
56
57 /*!
58  * if this flag is set, then ubik will use only the primary address
59  * (the address specified in the CellServDB) to contact other
60  * ubik servers. Ubik recovery will not try opening connections
61  * to the alternate interface addresses.
62  */
63 int ubikPrimaryAddrOnly;
64
65 int
66 urecovery_ResetState(void)
67 {
68     urecovery_state = 0;
69 #if !defined(AFS_PTHREAD_ENV)
70     /*  No corresponding LWP_WaitProcess found anywhere for this -- klm */
71     LWP_NoYieldSignal(&urecovery_state);
72 #endif
73     return 0;
74 }
75
76 /*!
77  * \brief sync site
78  *
79  * routine called when a non-sync site server goes down; restarts recovery
80  * process to send missing server the new db when it comes back up for
81  * non-sync site servers.
82  *
83  * \note This routine should not do anything with variables used by non-sync site servers.
84  */
85 int
86 urecovery_LostServer(struct ubik_server *ts)
87 {
88     ubeacon_ReinitServer(ts);
89 #if !defined(AFS_PTHREAD_ENV)
90     /*  No corresponding LWP_WaitProcess found anywhere for this -- klm */
91     LWP_NoYieldSignal(&urecovery_state);
92 #endif
93     return 0;
94 }
95
96 /*!
97  * return true iff we have a current database (called by both sync
98  * sites and non-sync sites) How do we determine this?  If we're the
99  * sync site, we wait until recovery has finished fetching and
100  * re-labelling its dbase (it may still be trying to propagate it out
101  * to everyone else; that's THEIR problem).  If we're not the sync
102  * site, then we must have a dbase labelled with the right version,
103  * and we must have a currently-good sync site.
104  */
105 int
106 urecovery_AllBetter(struct ubik_dbase *adbase, int areadAny)
107 {
108     afs_int32 rcode;
109
110     ubik_dprint_25("allbetter checking\n");
111     rcode = 0;
112
113
114     if (areadAny) {
115         if (ubik_dbase->version.epoch > 1)
116             rcode = 1;          /* Happy with any good version of database */
117     }
118
119     /* Check if we're sync site and we've got the right data */
120     else if (ubeacon_AmSyncSite() && (urecovery_state & UBIK_RECHAVEDB)) {
121         rcode = 1;
122     }
123
124     /* next, check if we're aux site, and we've ever been sent the
125      * right data (note that if a dbase update fails, we won't think
126      * that the sync site is still the sync site, 'cause it won't talk
127      * to us until a timeout period has gone by.  When we recover, we
128      * leave this clear until we get a new dbase */
129     else if (uvote_HaveSyncAndVersion(ubik_dbase->version)) {
130         rcode = 1;
131     }
132
133     ubik_dprint_25("allbetter: returning %d\n", rcode);
134     return rcode;
135 }
136
137 /*!
138  * \brief abort all transactions on this database
139  */
140 int
141 urecovery_AbortAll(struct ubik_dbase *adbase)
142 {
143     struct ubik_trans *tt;
144     for (tt = adbase->activeTrans; tt; tt = tt->next) {
145         udisk_abort(tt);
146     }
147     return 0;
148 }
149
150 /*!
151  * \brief this routine aborts the current remote transaction, if any, if the tid is wrong
152  */
153 int
154 urecovery_CheckTid(struct ubik_tid *atid, int abortalways)
155 {
156     if (ubik_currentTrans) {
157         /* there is remote write trans, see if we match, see if this
158          * is a new transaction */
159         if (atid->epoch != ubik_currentTrans->tid.epoch
160             || atid->counter > ubik_currentTrans->tid.counter || abortalways) {
161             /* don't match, abort it */
162             /* If the thread is not waiting for lock - ok to end it */
163             if (ubik_currentTrans->locktype != LOCKWAIT) {
164                 udisk_end(ubik_currentTrans);
165             }
166             ubik_currentTrans = (struct ubik_trans *)0;
167         }
168     }
169     return 0;
170 }
171
172 /*!
173  * \brief replay logs
174  *
175  * log format is defined here, and implicitly in disk.c
176  *
177  * 4 byte opcode, followed by parameters, each 4 bytes long.  All integers
178  * are in logged in network standard byte order, in case we want to move logs
179  * from machine-to-machine someday.
180  *
181  * Begin transaction: opcode \n
182  * Commit transaction: opcode, version (8 bytes) \n
183  * Truncate file: opcode, file number, length \n
184  * Abort transaction: opcode \n
185  * Write data: opcode, file, position, length, <length> data bytes \n
186  *
187  * A very simple routine, it just replays the log.  Note that this is a new-value only log, which
188  * implies that no uncommitted data is written to the dbase: one writes data to the log, including
189  * the commit record, then we allow data to be written through to the dbase.  In our particular
190  * implementation, once a transaction is done, we write out the pages to the database, so that
191  * our buffer package doesn't have to know about stable and uncommitted data in the memory buffers:
192  * any changed data while there is an uncommitted write transaction can be zapped during an
193  * abort and the remaining dbase on the disk is exactly the right dbase, without having to read
194  * the log.
195  */
196 static int
197 ReplayLog(struct ubik_dbase *adbase)
198 {
199     afs_int32 opcode;
200     afs_int32 code, tpos;
201     int logIsGood;
202     afs_int32 len, thisSize, tfile, filePos;
203     afs_int32 buffer[4];
204     afs_int32 syncFile = -1;
205     afs_int32 data[1024];
206
207     /* read the lock twice, once to see whether we have a transaction to deal
208      * with that committed, (theoretically, we should support more than one
209      * trans in the log at once, but not yet), and once replaying the
210      * transactions.  */
211     tpos = 0;
212     logIsGood = 0;
213     /* for now, assume that all ops in log pertain to one transaction; see if there's a commit */
214     while (1) {
215         code =
216             (*adbase->read) (adbase, LOGFILE, (char *)&opcode, tpos,
217                              sizeof(afs_int32));
218         if (code != sizeof(afs_int32))
219             break;
220         opcode = ntohl(opcode);
221         if (opcode == LOGNEW) {
222             /* handle begin trans */
223             tpos += sizeof(afs_int32);
224         } else if (opcode == LOGABORT)
225             break;
226         else if (opcode == LOGEND) {
227             logIsGood = 1;
228             break;
229         } else if (opcode == LOGTRUNCATE) {
230             tpos += 4;
231             code =
232                 (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
233                                  2 * sizeof(afs_int32));
234             if (code != 2 * sizeof(afs_int32))
235                 break;          /* premature eof or io error */
236             tpos += 2 * sizeof(afs_int32);
237         } else if (opcode == LOGDATA) {
238             tpos += 4;
239             code =
240                 (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
241                                  3 * sizeof(afs_int32));
242             if (code != 3 * sizeof(afs_int32))
243                 break;
244             /* otherwise, skip over the data bytes, too */
245             tpos += ntohl(buffer[2]) + 3 * sizeof(afs_int32);
246         } else {
247             ubik_print("corrupt log opcode (%d) at position %d\n", opcode,
248                        tpos);
249             break;              /* corrupt log! */
250         }
251     }
252     if (logIsGood) {
253         /* actually do the replay; log should go all the way through the commit record, since
254          * we just read it above. */
255         tpos = 0;
256         logIsGood = 0;
257         syncFile = -1;
258         while (1) {
259             code =
260                 (*adbase->read) (adbase, LOGFILE, (char *)&opcode, tpos,
261                                  sizeof(afs_int32));
262             if (code != sizeof(afs_int32))
263                 break;
264             opcode = ntohl(opcode);
265             if (opcode == LOGNEW) {
266                 /* handle begin trans */
267                 tpos += sizeof(afs_int32);
268             } else if (opcode == LOGABORT)
269                 panic("log abort\n");
270             else if (opcode == LOGEND) {
271                 struct ubik_version version;
272                 tpos += 4;
273                 code =
274                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
275                                      2 * sizeof(afs_int32));
276                 if (code != 2 * sizeof(afs_int32))
277                     return UBADLOG;
278                 version.epoch = ntohl(buffer[0]);
279                 version.counter = ntohl(buffer[1]);
280                 code = (*adbase->setlabel) (adbase, 0, &version);
281                 if (code)
282                     return code;
283                 ubik_print("Successfully replayed log for interrupted "
284                            "transaction; db version is now %ld.%ld\n",
285                            (long) version.epoch, (long) version.counter);
286                 logIsGood = 1;
287                 break;          /* all done now */
288             } else if (opcode == LOGTRUNCATE) {
289                 tpos += 4;
290                 code =
291                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
292                                      2 * sizeof(afs_int32));
293                 if (code != 2 * sizeof(afs_int32))
294                     break;      /* premature eof or io error */
295                 tpos += 2 * sizeof(afs_int32);
296                 code =
297                     (*adbase->truncate) (adbase, ntohl(buffer[0]),
298                                          ntohl(buffer[1]));
299                 if (code)
300                     return code;
301             } else if (opcode == LOGDATA) {
302                 tpos += 4;
303                 code =
304                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
305                                      3 * sizeof(afs_int32));
306                 if (code != 3 * sizeof(afs_int32))
307                     break;
308                 tpos += 3 * sizeof(afs_int32);
309                 /* otherwise, skip over the data bytes, too */
310                 len = ntohl(buffer[2]); /* total number of bytes to copy */
311                 filePos = ntohl(buffer[1]);
312                 tfile = ntohl(buffer[0]);
313                 /* try to minimize file syncs */
314                 if (syncFile != tfile) {
315                     if (syncFile >= 0)
316                         code = (*adbase->sync) (adbase, syncFile);
317                     else
318                         code = 0;
319                     syncFile = tfile;
320                     if (code)
321                         return code;
322                 }
323                 while (len > 0) {
324                     thisSize = (len > sizeof(data) ? sizeof(data) : len);
325                     /* copy sizeof(data) buffer bytes at a time */
326                     code =
327                         (*adbase->read) (adbase, LOGFILE, (char *)data, tpos,
328                                          thisSize);
329                     if (code != thisSize)
330                         return UBADLOG;
331                     code =
332                         (*adbase->write) (adbase, tfile, (char *)data, filePos,
333                                           thisSize);
334                     if (code != thisSize)
335                         return UBADLOG;
336                     filePos += thisSize;
337                     tpos += thisSize;
338                     len -= thisSize;
339                 }
340             } else {
341                 ubik_print("corrupt log opcode (%d) at position %d\n",
342                            opcode, tpos);
343                 break;          /* corrupt log! */
344             }
345         }
346         if (logIsGood) {
347             if (syncFile >= 0)
348                 code = (*adbase->sync) (adbase, syncFile);
349             if (code)
350                 return code;
351         } else {
352             ubik_print("Log read error on pass 2\n");
353             return UBADLOG;
354         }
355     }
356
357     /* now truncate the log, we're done with it */
358     code = (*adbase->truncate) (adbase, LOGFILE, 0);
359     return code;
360 }
361
362 /*! \brief
363  * Called at initialization to figure out version of the dbase we really have.
364  *
365  * This routine is called after replaying the log; it reads the restored labels.
366  */
367 static int
368 InitializeDB(struct ubik_dbase *adbase)
369 {
370     afs_int32 code;
371
372     code = (*adbase->getlabel) (adbase, 0, &adbase->version);
373     if (code) {
374         /* try setting the label to a new value */
375         UBIK_VERSION_LOCK;
376         adbase->version.epoch = 1;      /* value for newly-initialized db */
377         adbase->version.counter = 1;
378         code = (*adbase->setlabel) (adbase, 0, &adbase->version);
379         if (code) {
380             /* failed, try to set it back */
381             adbase->version.epoch = 0;
382             adbase->version.counter = 0;
383             (*adbase->setlabel) (adbase, 0, &adbase->version);
384         }
385 #ifdef AFS_PTHREAD_ENV
386         opr_cv_broadcast(&adbase->version_cond);
387 #else
388         LWP_NoYieldSignal(&adbase->version);
389 #endif
390         UBIK_VERSION_UNLOCK;
391     }
392     return 0;
393 }
394
395 /*!
396  * \brief initialize the local ubik_dbase
397  *
398  * We replay the logs and then read the resulting file to figure out what version we've really got.
399  */
400 int
401 urecovery_Initialize(struct ubik_dbase *adbase)
402 {
403     afs_int32 code;
404
405     DBHOLD(adbase);
406     code = ReplayLog(adbase);
407     if (code)
408         goto done;
409     code = InitializeDB(adbase);
410 done:
411     DBRELE(adbase);
412     return code;
413 }
414
415 /*!
416  * \brief Main interaction loop for the recovery manager
417  *
418  * The recovery light-weight process only runs when you're the
419  * synchronization site.  It performs the following tasks, if and only
420  * if the prerequisite tasks have been performed successfully (it
421  * keeps track of which ones have been performed in its bit map,
422  * \p urecovery_state).
423  *
424  * First, it is responsible for probing that all servers are up.  This
425  * is the only operation that must be performed even if this is not
426  * yet the sync site, since otherwise this site may not notice that
427  * enough other machines are running to even elect this guy to be the
428  * sync site.
429  *
430  * After that, the recovery process does nothing until the beacon and
431  * voting modules manage to get this site elected sync site.
432  *
433  * After becoming sync site, recovery first attempts to find the best
434  * database available in the network (it must do this in order to
435  * ensure finding the latest committed data).  After finding the right
436  * database, it must fetch this dbase to the sync site.
437  *
438  * After fetching the dbase, it relabels it with a new version number,
439  * to ensure that everyone recognizes this dbase as the most recent
440  * dbase.
441  *
442  * One the dbase has been relabelled, this machine can start handling
443  * requests.  However, the recovery module still has one more task:
444  * propagating the dbase out to everyone who is up in the network.
445  */
446 void *
447 urecovery_Interact(void *dummy)
448 {
449     afs_int32 code;
450     struct ubik_server *bestServer = NULL;
451     struct ubik_server *ts;
452     int dbok, doingRPC, now;
453     afs_int32 lastProbeTime;
454     /* if we're the sync site, the best db version we've found yet */
455     static struct ubik_version bestDBVersion;
456     struct ubik_version tversion;
457     struct timeval tv;
458     int length, tlen, offset, file, nbytes;
459     struct rx_call *rxcall;
460     char tbuffer[1024];
461     struct ubik_stat ubikstat;
462     struct in_addr inAddr;
463     char hoststr[16];
464     char pbuffer[1028];
465     int fd = -1;
466     afs_int32 pass;
467
468     afs_pthread_setname_self("recovery");
469
470     /* otherwise, begin interaction */
471     urecovery_state = 0;
472     lastProbeTime = 0;
473     while (1) {
474         /* Run through this loop every 4 seconds */
475         tv.tv_sec = 4;
476         tv.tv_usec = 0;
477 #ifdef AFS_PTHREAD_ENV
478         select(0, 0, 0, 0, &tv);
479 #else
480         IOMGR_Select(0, 0, 0, 0, &tv);
481 #endif
482
483         ubik_dprint("recovery running in state %x\n", urecovery_state);
484
485         /* Every 30 seconds, check all the down servers and mark them
486          * as up if they respond. When a server comes up or found to
487          * not be current, then re-find the the best database and
488          * propogate it.
489          */
490         if ((now = FT_ApproxTime()) > 30 + lastProbeTime) {
491
492             for (ts = ubik_servers, doingRPC = 0; ts; ts = ts->next) {
493                 UBIK_BEACON_LOCK;
494                 if (!ts->up) {
495                     UBIK_BEACON_UNLOCK;
496                     doingRPC = 1;
497                     code = DoProbe(ts);
498                     if (code == 0) {
499                         UBIK_BEACON_LOCK;
500                         ts->up = 1;
501                         UBIK_BEACON_UNLOCK;
502                         DBHOLD(ubik_dbase);
503                         urecovery_state &= ~UBIK_RECFOUNDDB;
504                         DBRELE(ubik_dbase);
505                     }
506                 } else {
507                     UBIK_BEACON_UNLOCK;
508                     DBHOLD(ubik_dbase);
509                     if (!ts->currentDB)
510                         urecovery_state &= ~UBIK_RECFOUNDDB;
511                     DBRELE(ubik_dbase);
512                 }
513             }
514
515             if (doingRPC)
516                 now = FT_ApproxTime();
517             lastProbeTime = now;
518         }
519
520         /* Mark whether we are the sync site */
521         DBHOLD(ubik_dbase);
522         if (!ubeacon_AmSyncSite()) {
523             urecovery_state &= ~UBIK_RECSYNCSITE;
524             DBRELE(ubik_dbase);
525             continue;           /* nothing to do */
526         }
527         urecovery_state |= UBIK_RECSYNCSITE;
528
529         /* If a server has just come up or if we have not found the
530          * most current database, then go find the most current db.
531          */
532         if (!(urecovery_state & UBIK_RECFOUNDDB)) {
533             int okcalls = 0;
534             DBRELE(ubik_dbase);
535             bestServer = (struct ubik_server *)0;
536             bestDBVersion.epoch = 0;
537             bestDBVersion.counter = 0;
538             for (ts = ubik_servers; ts; ts = ts->next) {
539                 UBIK_BEACON_LOCK;
540                 if (!ts->up) {
541                     UBIK_BEACON_UNLOCK;
542                     continue;   /* don't bother with these guys */
543                 }
544                 UBIK_BEACON_UNLOCK;
545                 if (ts->isClone)
546                     continue;
547                 UBIK_ADDR_LOCK;
548                 code = DISK_GetVersion(ts->disk_rxcid, &ts->version);
549                 UBIK_ADDR_UNLOCK;
550                 if (code == 0) {
551                     okcalls++;
552                     /* perhaps this is the best version */
553                     if (vcmp(ts->version, bestDBVersion) > 0) {
554                         /* new best version */
555                         bestDBVersion = ts->version;
556                         bestServer = ts;
557                     }
558                 }
559             }
560
561             DBHOLD(ubik_dbase);
562
563             if (okcalls + 1 >= ubik_quorum) {
564                 /* If we've asked a majority of sites about their db version,
565                  * then we can say with confidence that we've found the best db
566                  * version. If we haven't contacted most sites (because
567                  * GetVersion failed or because we already know the server is
568                  * down), then we don't really know if we know about the best
569                  * db version. So we can only proceed in here if 'okcalls'
570                  * indicates we managed to contact a majority of sites. */
571
572                 /* take into consideration our version. Remember if we,
573                  * the sync site, have the best version. Also note that
574                  * we may need to send the best version out.
575                  */
576                 if (vcmp(ubik_dbase->version, bestDBVersion) >= 0) {
577                     bestDBVersion = ubik_dbase->version;
578                     bestServer = (struct ubik_server *)0;
579                     urecovery_state |= UBIK_RECHAVEDB;
580                 } else {
581                     /* Clear the flag only when we know we have to retrieve
582                      * the db. Because urecovery_AllBetter() looks at it.
583                      */
584                     urecovery_state &= ~UBIK_RECHAVEDB;
585                 }
586                 urecovery_state |= UBIK_RECFOUNDDB;
587                 urecovery_state &= ~UBIK_RECSENTDB;
588             }
589         }
590         if (!(urecovery_state & UBIK_RECFOUNDDB)) {
591             DBRELE(ubik_dbase);
592             continue;           /* not ready */
593         }
594
595         /* If we, the sync site, do not have the best db version, then
596          * go and get it from the server that does.
597          */
598         if ((urecovery_state & UBIK_RECHAVEDB) || !bestServer) {
599             urecovery_state |= UBIK_RECHAVEDB;
600         } else {
601             /* we don't have the best version; we should fetch it. */
602             urecovery_AbortAll(ubik_dbase);
603
604             /* Rx code to do the Bulk fetch */
605             file = 0;
606             offset = 0;
607             UBIK_ADDR_LOCK;
608             rxcall = rx_NewCall(bestServer->disk_rxcid);
609
610             ubik_print("Ubik: Synchronize database with server %s\n",
611                        afs_inet_ntoa_r(bestServer->addr[0], hoststr));
612             UBIK_ADDR_UNLOCK;
613
614             code = StartDISK_GetFile(rxcall, file);
615             if (code) {
616                 ubik_dprint("StartDiskGetFile failed=%d\n", code);
617                 goto FetchEndCall;
618             }
619             nbytes = rx_Read(rxcall, (char *)&length, sizeof(afs_int32));
620             length = ntohl(length);
621             if (nbytes != sizeof(afs_int32)) {
622                 ubik_dprint("Rx-read length error=%d\n", code = BULK_ERROR);
623                 code = EIO;
624                 goto FetchEndCall;
625             }
626
627             /* give invalid label during file transit */
628             UBIK_VERSION_LOCK;
629             tversion.epoch = 0;
630             code = (*ubik_dbase->setlabel) (ubik_dbase, file, &tversion);
631             UBIK_VERSION_UNLOCK;
632             if (code) {
633                 ubik_dprint("setlabel io error=%d\n", code);
634                 goto FetchEndCall;
635             }
636             snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.TMP",
637                      ubik_dbase->pathName, (file<0)?"SYS":"",
638                      (file<0)?-file:file);
639             fd = open(pbuffer, O_CREAT | O_RDWR | O_TRUNC, 0600);
640             if (fd < 0) {
641                 code = errno;
642                 goto FetchEndCall;
643             }
644             code = lseek(fd, HDRSIZE, 0);
645             if (code != HDRSIZE) {
646                 close(fd);
647                 goto FetchEndCall;
648             }
649
650             pass = 0;
651             while (length > 0) {
652                 tlen = (length > sizeof(tbuffer) ? sizeof(tbuffer) : length);
653 #ifndef AFS_PTHREAD_ENV
654                 if (pass % 4 == 0)
655                     IOMGR_Poll();
656 #endif
657                 nbytes = rx_Read(rxcall, tbuffer, tlen);
658                 if (nbytes != tlen) {
659                     ubik_dprint("Rx-read bulk error=%d\n", code = BULK_ERROR);
660                     code = EIO;
661                     close(fd);
662                     goto FetchEndCall;
663                 }
664                 nbytes = write(fd, tbuffer, tlen);
665                 pass++;
666                 if (nbytes != tlen) {
667                     code = UIOERROR;
668                     close(fd);
669                     goto FetchEndCall;
670                 }
671                 offset += tlen;
672                 length -= tlen;
673             }
674             code = close(fd);
675             if (code)
676                 goto FetchEndCall;
677             code = EndDISK_GetFile(rxcall, &tversion);
678           FetchEndCall:
679             code = rx_EndCall(rxcall, code);
680             if (!code) {
681                 /* we got a new file, set up its header */
682                 urecovery_state |= UBIK_RECHAVEDB;
683                 UBIK_VERSION_LOCK;
684                 memcpy(&ubik_dbase->version, &tversion,
685                        sizeof(struct ubik_version));
686                 snprintf(tbuffer, sizeof(tbuffer), "%s.DB%s%d",
687                          ubik_dbase->pathName, (file<0)?"SYS":"",
688                          (file<0)?-file:file);
689 #ifdef AFS_NT40_ENV
690                 snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.OLD",
691                          ubik_dbase->pathName, (file<0)?"SYS":"",
692                          (file<0)?-file:file);
693                 code = unlink(pbuffer);
694                 if (!code)
695                     code = rename(tbuffer, pbuffer);
696                 snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.TMP",
697                          ubik_dbase->pathName, (file<0)?"SYS":"",
698                          (file<0)?-file:file);
699 #endif
700                 if (!code)
701                     code = rename(pbuffer, tbuffer);
702                 if (!code) {
703                     (*ubik_dbase->open) (ubik_dbase, file);
704                     /* after data is good, sync disk with correct label */
705                     code =
706                         (*ubik_dbase->setlabel) (ubik_dbase, 0,
707                                                  &ubik_dbase->version);
708                 }
709                 UBIK_VERSION_UNLOCK;
710 #ifdef AFS_NT40_ENV
711                 snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.OLD",
712                          ubik_dbase->pathName, (file<0)?"SYS":"",
713                          (file<0)?-file:file);
714                 unlink(pbuffer);
715 #endif
716             }
717             if (code) {
718                 unlink(pbuffer);
719                 /*
720                  * We will effectively invalidate the old data forever now.
721                  * Unclear if we *should* but we do.
722                  */
723                 UBIK_VERSION_LOCK;
724                 ubik_dbase->version.epoch = 0;
725                 ubik_dbase->version.counter = 0;
726                 UBIK_VERSION_UNLOCK;
727                 ubik_print("Ubik: Synchronize database failed (error = %d)\n",
728                            code);
729             } else {
730                 ubik_print("Ubik: Synchronize database completed\n");
731                 urecovery_state |= UBIK_RECHAVEDB;
732             }
733             udisk_Invalidate(ubik_dbase, 0);    /* data has changed */
734 #ifdef AFS_PTHREAD_ENV
735             opr_cv_broadcast(&ubik_dbase->version_cond);
736 #else
737             LWP_NoYieldSignal(&ubik_dbase->version);
738 #endif
739         }
740         if (!(urecovery_state & UBIK_RECHAVEDB)) {
741             DBRELE(ubik_dbase);
742             continue;           /* not ready */
743         }
744
745         /* If the database was newly initialized, then when we establish quorum, write
746          * a new label. This allows urecovery_AllBetter() to allow access for reads.
747          * Setting it to 2 also allows another site to come along with a newer
748          * database and overwrite this one.
749          */
750         if (ubik_dbase->version.epoch == 1) {
751             urecovery_AbortAll(ubik_dbase);
752             UBIK_VERSION_LOCK;
753             version_globals.ubik_epochTime = 2;
754             ubik_dbase->version.epoch = version_globals.ubik_epochTime;
755             ubik_dbase->version.counter = 1;
756             code =
757                 (*ubik_dbase->setlabel) (ubik_dbase, 0, &ubik_dbase->version);
758             UBIK_VERSION_UNLOCK;
759             udisk_Invalidate(ubik_dbase, 0);    /* data may have changed */
760 #ifdef AFS_PTHREAD_ENV
761             opr_cv_broadcast(&ubik_dbase->version_cond);
762 #else
763             LWP_NoYieldSignal(&ubik_dbase->version);
764 #endif
765         }
766
767         /* Check the other sites and send the database to them if they
768          * do not have the current db.
769          */
770         if (!(urecovery_state & UBIK_RECSENTDB)) {
771             /* now propagate out new version to everyone else */
772             dbok = 1;           /* start off assuming they all worked */
773
774             /*
775              * Check if a write transaction is in progress. We can't send the
776              * db when a write is in progress here because the db would be
777              * obsolete as soon as it goes there. Also, ops after the begin
778              * trans would reach the recepient and wouldn't find a transaction
779              * pending there.  Frankly, I don't think it's possible to get past
780              * the write-lock above if there is a write transaction in progress,
781              * but then, it won't hurt to check, will it?
782              */
783             if (ubik_dbase->flags & DBWRITING) {
784                 struct timeval tv;
785                 int safety = 0;
786                 long cur_usec = 50000;
787                 while ((ubik_dbase->flags & DBWRITING) && (safety < 500)) {
788                     DBRELE(ubik_dbase);
789                     /* sleep for a little while */
790                     tv.tv_sec = 0;
791                     tv.tv_usec = cur_usec;
792 #ifdef AFS_PTHREAD_ENV
793                     select(0, 0, 0, 0, &tv);
794 #else
795                     IOMGR_Select(0, 0, 0, 0, &tv);
796 #endif
797                     cur_usec += 10000;
798                     safety++;
799                     DBHOLD(ubik_dbase);
800                 }
801             }
802
803             for (ts = ubik_servers; ts; ts = ts->next) {
804                 UBIK_ADDR_LOCK;
805                 inAddr.s_addr = ts->addr[0];
806                 UBIK_ADDR_UNLOCK;
807                 UBIK_BEACON_LOCK;
808                 if (!ts->up) {
809                     UBIK_BEACON_UNLOCK;
810                     ubik_dprint("recovery cannot send version to %s\n",
811                                 afs_inet_ntoa_r(inAddr.s_addr, hoststr));
812                     dbok = 0;
813                     continue;
814                 }
815                 UBIK_BEACON_UNLOCK;
816                 ubik_dprint("recovery sending version to %s\n",
817                             afs_inet_ntoa_r(inAddr.s_addr, hoststr));
818                 if (vcmp(ts->version, ubik_dbase->version) != 0) {
819                     ubik_dprint("recovery stating local database\n");
820
821                     /* Rx code to do the Bulk Store */
822                     code = (*ubik_dbase->stat) (ubik_dbase, 0, &ubikstat);
823                     if (!code) {
824                         length = ubikstat.size;
825                         file = offset = 0;
826                         UBIK_ADDR_LOCK;
827                         rxcall = rx_NewCall(ts->disk_rxcid);
828                         UBIK_ADDR_UNLOCK;
829                         code =
830                             StartDISK_SendFile(rxcall, file, length,
831                                                &ubik_dbase->version);
832                         if (code) {
833                             ubik_dprint("StartDiskSendFile failed=%d\n",
834                                         code);
835                             goto StoreEndCall;
836                         }
837                         while (length > 0) {
838                             tlen =
839                                 (length >
840                                  sizeof(tbuffer) ? sizeof(tbuffer) : length);
841                             nbytes =
842                                 (*ubik_dbase->read) (ubik_dbase, file,
843                                                      tbuffer, offset, tlen);
844                             if (nbytes != tlen) {
845                                 ubik_dprint("Local disk read error=%d\n",
846                                             code = UIOERROR);
847                                 goto StoreEndCall;
848                             }
849                             nbytes = rx_Write(rxcall, tbuffer, tlen);
850                             if (nbytes != tlen) {
851                                 ubik_dprint("Rx-write bulk error=%d\n", code =
852                                             BULK_ERROR);
853                                 goto StoreEndCall;
854                             }
855                             offset += tlen;
856                             length -= tlen;
857                         }
858                         code = EndDISK_SendFile(rxcall);
859                       StoreEndCall:
860                         code = rx_EndCall(rxcall, code);
861                     }
862                     if (code == 0) {
863                         /* we set a new file, process its header */
864                         ts->version = ubik_dbase->version;
865                         ts->currentDB = 1;
866                     } else
867                         dbok = 0;
868                 } else {
869                     /* mark file up to date */
870                     ts->currentDB = 1;
871                 }
872             }
873             if (dbok)
874                 urecovery_state |= UBIK_RECSENTDB;
875         }
876         DBRELE(ubik_dbase);
877     }
878     return NULL;
879 }
880
881 /*!
882  * \brief send a Probe to all the network address of this server
883  *
884  * \return 0 if success, else return 1
885  */
886 int
887 DoProbe(struct ubik_server *server)
888 {
889     struct rx_connection *conns[UBIK_MAX_INTERFACE_ADDR];
890     struct rx_connection *connSuccess = 0;
891     int i, nconns, success_i = -1;
892     afs_uint32 addr;
893     char buffer[32];
894     char hoststr[16];
895
896     UBIK_ADDR_LOCK;
897     for (i = 0; (i < UBIK_MAX_INTERFACE_ADDR) && (addr = server->addr[i]);
898          i++) {
899         conns[i] =
900             rx_NewConnection(addr, ubik_callPortal, DISK_SERVICE_ID,
901                              addr_globals.ubikSecClass, addr_globals.ubikSecIndex);
902
903         /* user requirement to use only the primary interface */
904         if (ubikPrimaryAddrOnly) {
905             i = 1;
906             break;
907         }
908     }
909     UBIK_ADDR_UNLOCK;
910     nconns = i;
911     opr_Assert(nconns);                 /* at least one interface address for this server */
912
913     multi_Rx(conns, nconns) {
914         multi_DISK_Probe();
915         if (!multi_error) {     /* first success */
916             success_i = multi_i;
917
918             multi_Abort;
919         }
920     } multi_End_Ignore;
921
922     if (success_i >= 0) {
923         UBIK_ADDR_LOCK;
924         addr = server->addr[success_i]; /* successful interface addr */
925
926         if (server->disk_rxcid) /* destroy existing conn */
927             rx_DestroyConnection(server->disk_rxcid);
928         if (server->vote_rxcid)
929             rx_DestroyConnection(server->vote_rxcid);
930
931         /* make new connections */
932         server->disk_rxcid = conns[success_i];
933         server->vote_rxcid = rx_NewConnection(addr, ubik_callPortal,
934                                               VOTE_SERVICE_ID, addr_globals.ubikSecClass,
935                                               addr_globals.ubikSecIndex);
936
937         connSuccess = conns[success_i];
938         strcpy(buffer, afs_inet_ntoa_r(server->addr[0], hoststr));
939
940         ubik_print("ubik:server %s is back up: will be contacted through %s\n",
941              buffer, afs_inet_ntoa_r(addr, hoststr));
942         UBIK_ADDR_UNLOCK;
943     }
944
945     /* Destroy all connections except the one on which we succeeded */
946     for (i = 0; i < nconns; i++)
947         if (conns[i] != connSuccess)
948             rx_DestroyConnection(conns[i]);
949
950     if (!connSuccess)
951         ubik_dprint("ubik:server %s still down\n",
952                     afs_inet_ntoa_r(server->addr[0], hoststr));
953
954     if (connSuccess)
955         return 0;               /* success */
956     else
957         return 1;               /* failure */
958 }