b3a00712e41c75ef2bbb461cd857af55859673a9
[openafs.git] / src / ubik / recovery.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  *
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  */
9
10 #include <afsconfig.h>
11 #include <afs/param.h>
12
13 #include <roken.h>
14
15 #include <lock.h>
16 #include <rx/xdr.h>
17 #include <rx/rx.h>
18 #include <afs/afsutil.h>
19 #include <afs/cellconfig.h>
20
21 #define UBIK_INTERNALS
22 #include "ubik.h"
23 #include "ubik_int.h"
24
25 /*! \file
26  * This module is responsible for determining when the system has
27  * recovered to the point that it can handle new transactions.  It
28  * replays logs, polls to determine the current dbase after a crash,
29  * and distributes the new database to the others.
30  *
31  * The sync site associates a version number with each database.  It
32  * broadcasts the version associated with its current dbase in every
33  * one of its beacon messages.  When the sync site send a dbase to a
34  * server, it also sends the db's version.  A non-sync site server can
35  * tell if it has the right dbase version by simply comparing the
36  * version from the beacon message \p uvote_dbVersion with the version
37  * associated with the database \p ubik_dbase->version.  The sync site
38  * itself simply has one counter to keep track of all of this (again
39  * \p ubik_dbase->version).
40  *
41  * sync site: routine called when the sync site loses its quorum; this
42  * procedure is called "up" from the beacon package.  It resyncs the
43  * dbase and nudges the recovery daemon to try to propagate out the
44  * changes.  It also resets the recovery daemon's state, since
45  * recovery must potentially find a new dbase to propagate out.  This
46  * routine should not do anything with variables used by non-sync site
47  * servers.
48  */
49
50 /*!
51  * if this flag is set, then ubik will use only the primary address
52  * (the address specified in the CellServDB) to contact other
53  * ubik servers. Ubik recovery will not try opening connections
54  * to the alternate interface addresses.
55  */
56 int ubikPrimaryAddrOnly;
57
58 int
59 urecovery_ResetState(void)
60 {
61     urecovery_state = 0;
62 #if !defined(AFS_PTHREAD_ENV)
63     /*  No corresponding LWP_WaitProcess found anywhere for this -- klm */
64     LWP_NoYieldSignal(&urecovery_state);
65 #endif
66     return 0;
67 }
68
69 /*!
70  * \brief sync site
71  *
72  * routine called when a non-sync site server goes down; restarts recovery
73  * process to send missing server the new db when it comes back up for
74  * non-sync site servers.
75  *
76  * \note This routine should not do anything with variables used by non-sync site servers.
77  */
78 int
79 urecovery_LostServer(struct ubik_server *ts)
80 {
81     ubeacon_ReinitServer(ts);
82 #if !defined(AFS_PTHREAD_ENV)
83     /*  No corresponding LWP_WaitProcess found anywhere for this -- klm */
84     LWP_NoYieldSignal(&urecovery_state);
85 #endif
86     return 0;
87 }
88
89 /*!
90  * return true iff we have a current database (called by both sync
91  * sites and non-sync sites) How do we determine this?  If we're the
92  * sync site, we wait until recovery has finished fetching and
93  * re-labelling its dbase (it may still be trying to propagate it out
94  * to everyone else; that's THEIR problem).  If we're not the sync
95  * site, then we must have a dbase labelled with the right version,
96  * and we must have a currently-good sync site.
97  */
98 int
99 urecovery_AllBetter(struct ubik_dbase *adbase, int areadAny)
100 {
101     afs_int32 rcode;
102
103     ubik_dprint_25("allbetter checking\n");
104     rcode = 0;
105
106
107     if (areadAny) {
108         if (ubik_dbase->version.epoch > 1)
109             rcode = 1;          /* Happy with any good version of database */
110     }
111
112     /* Check if we're sync site and we've got the right data */
113     else if (ubeacon_AmSyncSite() && (urecovery_state & UBIK_RECHAVEDB)) {
114         rcode = 1;
115     }
116
117     /* next, check if we're aux site, and we've ever been sent the
118      * right data (note that if a dbase update fails, we won't think
119      * that the sync site is still the sync site, 'cause it won't talk
120      * to us until a timeout period has gone by.  When we recover, we
121      * leave this clear until we get a new dbase */
122     else if ((uvote_GetSyncSite() && uvote_eq_dbVersion(ubik_dbase->version))) {        /* && order is important */
123         rcode = 1;
124     }
125
126     ubik_dprint_25("allbetter: returning %d\n", rcode);
127     return rcode;
128 }
129
130 /*!
131  * \brief abort all transactions on this database
132  */
133 int
134 urecovery_AbortAll(struct ubik_dbase *adbase)
135 {
136     struct ubik_trans *tt;
137     for (tt = adbase->activeTrans; tt; tt = tt->next) {
138         udisk_abort(tt);
139     }
140     return 0;
141 }
142
143 /*!
144  * \brief this routine aborts the current remote transaction, if any, if the tid is wrong
145  */
146 int
147 urecovery_CheckTid(struct ubik_tid *atid, int abortalways)
148 {
149     if (ubik_currentTrans) {
150         /* there is remote write trans, see if we match, see if this
151          * is a new transaction */
152         if (atid->epoch != ubik_currentTrans->tid.epoch
153             || atid->counter > ubik_currentTrans->tid.counter || abortalways) {
154             /* don't match, abort it */
155             /* If the thread is not waiting for lock - ok to end it */
156             if (ubik_currentTrans->locktype != LOCKWAIT) {
157                 udisk_end(ubik_currentTrans);
158             }
159             ubik_currentTrans = (struct ubik_trans *)0;
160         }
161     }
162     return 0;
163 }
164
165 /*!
166  * \brief replay logs
167  *
168  * log format is defined here, and implicitly in disk.c
169  *
170  * 4 byte opcode, followed by parameters, each 4 bytes long.  All integers
171  * are in logged in network standard byte order, in case we want to move logs
172  * from machine-to-machine someday.
173  *
174  * Begin transaction: opcode \n
175  * Commit transaction: opcode, version (8 bytes) \n
176  * Truncate file: opcode, file number, length \n
177  * Abort transaction: opcode \n
178  * Write data: opcode, file, position, length, <length> data bytes \n
179  *
180  * A very simple routine, it just replays the log.  Note that this is a new-value only log, which
181  * implies that no uncommitted data is written to the dbase: one writes data to the log, including
182  * the commit record, then we allow data to be written through to the dbase.  In our particular
183  * implementation, once a transaction is done, we write out the pages to the database, so that
184  * our buffer package doesn't have to know about stable and uncommitted data in the memory buffers:
185  * any changed data while there is an uncommitted write transaction can be zapped during an
186  * abort and the remaining dbase on the disk is exactly the right dbase, without having to read
187  * the log.
188  */
189 static int
190 ReplayLog(struct ubik_dbase *adbase)
191 {
192     afs_int32 opcode;
193     afs_int32 code, tpos;
194     int logIsGood;
195     afs_int32 len, thisSize, tfile, filePos;
196     afs_int32 buffer[4];
197     afs_int32 syncFile = -1;
198     afs_int32 data[1024];
199
200     /* read the lock twice, once to see whether we have a transaction to deal
201      * with that committed, (theoretically, we should support more than one
202      * trans in the log at once, but not yet), and once replaying the
203      * transactions.  */
204     tpos = 0;
205     logIsGood = 0;
206     /* for now, assume that all ops in log pertain to one transaction; see if there's a commit */
207     while (1) {
208         code =
209             (*adbase->read) (adbase, LOGFILE, (char *)&opcode, tpos,
210                              sizeof(afs_int32));
211         if (code != sizeof(afs_int32))
212             break;
213         opcode = ntohl(opcode);
214         if (opcode == LOGNEW) {
215             /* handle begin trans */
216             tpos += sizeof(afs_int32);
217         } else if (opcode == LOGABORT)
218             break;
219         else if (opcode == LOGEND) {
220             logIsGood = 1;
221             break;
222         } else if (opcode == LOGTRUNCATE) {
223             tpos += 4;
224             code =
225                 (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
226                                  2 * sizeof(afs_int32));
227             if (code != 2 * sizeof(afs_int32))
228                 break;          /* premature eof or io error */
229             tpos += 2 * sizeof(afs_int32);
230         } else if (opcode == LOGDATA) {
231             tpos += 4;
232             code =
233                 (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
234                                  3 * sizeof(afs_int32));
235             if (code != 3 * sizeof(afs_int32))
236                 break;
237             /* otherwise, skip over the data bytes, too */
238             tpos += ntohl(buffer[2]) + 3 * sizeof(afs_int32);
239         } else {
240             ubik_print("corrupt log opcode (%d) at position %d\n", opcode,
241                        tpos);
242             break;              /* corrupt log! */
243         }
244     }
245     if (logIsGood) {
246         /* actually do the replay; log should go all the way through the commit record, since
247          * we just read it above. */
248         tpos = 0;
249         logIsGood = 0;
250         syncFile = -1;
251         while (1) {
252             code =
253                 (*adbase->read) (adbase, LOGFILE, (char *)&opcode, tpos,
254                                  sizeof(afs_int32));
255             if (code != sizeof(afs_int32))
256                 break;
257             opcode = ntohl(opcode);
258             if (opcode == LOGNEW) {
259                 /* handle begin trans */
260                 tpos += sizeof(afs_int32);
261             } else if (opcode == LOGABORT)
262                 panic("log abort\n");
263             else if (opcode == LOGEND) {
264                 struct ubik_version version;
265                 tpos += 4;
266                 code =
267                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
268                                      2 * sizeof(afs_int32));
269                 if (code != 2 * sizeof(afs_int32))
270                     return UBADLOG;
271                 version.epoch = ntohl(buffer[0]);
272                 version.counter = ntohl(buffer[1]);
273                 code = (*adbase->setlabel) (adbase, 0, &version);
274                 if (code)
275                     return code;
276                 ubik_print("Successfully replayed log for interrupted "
277                            "transaction; db version is now %ld.%ld\n",
278                            (long) version.epoch, (long) version.counter);
279                 logIsGood = 1;
280                 break;          /* all done now */
281             } else if (opcode == LOGTRUNCATE) {
282                 tpos += 4;
283                 code =
284                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
285                                      2 * sizeof(afs_int32));
286                 if (code != 2 * sizeof(afs_int32))
287                     break;      /* premature eof or io error */
288                 tpos += 2 * sizeof(afs_int32);
289                 code =
290                     (*adbase->truncate) (adbase, ntohl(buffer[0]),
291                                          ntohl(buffer[1]));
292                 if (code)
293                     return code;
294             } else if (opcode == LOGDATA) {
295                 tpos += 4;
296                 code =
297                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
298                                      3 * sizeof(afs_int32));
299                 if (code != 3 * sizeof(afs_int32))
300                     break;
301                 tpos += 3 * sizeof(afs_int32);
302                 /* otherwise, skip over the data bytes, too */
303                 len = ntohl(buffer[2]); /* total number of bytes to copy */
304                 filePos = ntohl(buffer[1]);
305                 tfile = ntohl(buffer[0]);
306                 /* try to minimize file syncs */
307                 if (syncFile != tfile) {
308                     if (syncFile >= 0)
309                         code = (*adbase->sync) (adbase, syncFile);
310                     else
311                         code = 0;
312                     syncFile = tfile;
313                     if (code)
314                         return code;
315                 }
316                 while (len > 0) {
317                     thisSize = (len > sizeof(data) ? sizeof(data) : len);
318                     /* copy sizeof(data) buffer bytes at a time */
319                     code =
320                         (*adbase->read) (adbase, LOGFILE, (char *)data, tpos,
321                                          thisSize);
322                     if (code != thisSize)
323                         return UBADLOG;
324                     code =
325                         (*adbase->write) (adbase, tfile, (char *)data, filePos,
326                                           thisSize);
327                     if (code != thisSize)
328                         return UBADLOG;
329                     filePos += thisSize;
330                     tpos += thisSize;
331                     len -= thisSize;
332                 }
333             } else {
334                 ubik_print("corrupt log opcode (%d) at position %d\n",
335                            opcode, tpos);
336                 break;          /* corrupt log! */
337             }
338         }
339         if (logIsGood) {
340             if (syncFile >= 0)
341                 code = (*adbase->sync) (adbase, syncFile);
342             if (code)
343                 return code;
344         } else {
345             ubik_print("Log read error on pass 2\n");
346             return UBADLOG;
347         }
348     }
349
350     /* now truncate the log, we're done with it */
351     code = (*adbase->truncate) (adbase, LOGFILE, 0);
352     return code;
353 }
354
355 /*! \brief
356  * Called at initialization to figure out version of the dbase we really have.
357  *
358  * This routine is called after replaying the log; it reads the restored labels.
359  */
360 static int
361 InitializeDB(struct ubik_dbase *adbase)
362 {
363     afs_int32 code;
364
365     code = (*adbase->getlabel) (adbase, 0, &adbase->version);
366     if (code) {
367         /* try setting the label to a new value */
368         adbase->version.epoch = 1;      /* value for newly-initialized db */
369         adbase->version.counter = 1;
370         code = (*adbase->setlabel) (adbase, 0, &adbase->version);
371         if (code) {
372             /* failed, try to set it back */
373             adbase->version.epoch = 0;
374             adbase->version.counter = 0;
375             (*adbase->setlabel) (adbase, 0, &adbase->version);
376         }
377 #ifdef AFS_PTHREAD_ENV
378         CV_BROADCAST(&adbase->version_cond);
379 #else
380         LWP_NoYieldSignal(&adbase->version);
381 #endif
382     }
383     return 0;
384 }
385
386 /*!
387  * \brief initialize the local ubik_dbase
388  *
389  * We replay the logs and then read the resulting file to figure out what version we've really got.
390  */
391 int
392 urecovery_Initialize(struct ubik_dbase *adbase)
393 {
394     afs_int32 code;
395
396     code = ReplayLog(adbase);
397     if (code)
398         return code;
399     code = InitializeDB(adbase);
400     return code;
401 }
402
403 /*!
404  * \brief Main interaction loop for the recovery manager
405  *
406  * The recovery light-weight process only runs when you're the
407  * synchronization site.  It performs the following tasks, if and only
408  * if the prerequisite tasks have been performed successfully (it
409  * keeps track of which ones have been performed in its bit map,
410  * \p urecovery_state).
411  *
412  * First, it is responsible for probing that all servers are up.  This
413  * is the only operation that must be performed even if this is not
414  * yet the sync site, since otherwise this site may not notice that
415  * enough other machines are running to even elect this guy to be the
416  * sync site.
417  *
418  * After that, the recovery process does nothing until the beacon and
419  * voting modules manage to get this site elected sync site.
420  *
421  * After becoming sync site, recovery first attempts to find the best
422  * database available in the network (it must do this in order to
423  * ensure finding the latest committed data).  After finding the right
424  * database, it must fetch this dbase to the sync site.
425  *
426  * After fetching the dbase, it relabels it with a new version number,
427  * to ensure that everyone recognizes this dbase as the most recent
428  * dbase.
429  *
430  * One the dbase has been relabelled, this machine can start handling
431  * requests.  However, the recovery module still has one more task:
432  * propagating the dbase out to everyone who is up in the network.
433  */
434 void *
435 urecovery_Interact(void *dummy)
436 {
437     afs_int32 code, tcode;
438     struct ubik_server *bestServer = NULL;
439     struct ubik_server *ts;
440     int dbok, doingRPC, now;
441     afs_int32 lastProbeTime;
442     /* if we're the sync site, the best db version we've found yet */
443     static struct ubik_version bestDBVersion;
444     struct ubik_version tversion;
445     struct timeval tv;
446     int length, tlen, offset, file, nbytes;
447     struct rx_call *rxcall;
448     char tbuffer[1024];
449     struct ubik_stat ubikstat;
450     struct in_addr inAddr;
451     char hoststr[16];
452     char pbuffer[1028];
453     int fd = -1;
454     afs_int32 pass;
455
456     /* otherwise, begin interaction */
457     urecovery_state = 0;
458     lastProbeTime = 0;
459     while (1) {
460         /* Run through this loop every 4 seconds */
461         tv.tv_sec = 4;
462         tv.tv_usec = 0;
463 #ifdef AFS_PTHREAD_ENV
464         select(0, 0, 0, 0, &tv);
465 #else
466         IOMGR_Select(0, 0, 0, 0, &tv);
467 #endif
468
469         ubik_dprint("recovery running in state %x\n", urecovery_state);
470
471         /* Every 30 seconds, check all the down servers and mark them
472          * as up if they respond. When a server comes up or found to
473          * not be current, then re-find the the best database and
474          * propogate it.
475          */
476         if ((now = FT_ApproxTime()) > 30 + lastProbeTime) {
477
478 #ifdef AFS_PTHREAD_ENV
479             DBHOLD(ubik_dbase);
480 #endif
481
482             for (ts = ubik_servers, doingRPC = 0; ts; ts = ts->next) {
483                 UBIK_BEACON_LOCK;
484                 if (!ts->up) {
485                     UBIK_BEACON_UNLOCK;
486                     doingRPC = 1;
487                     code = DoProbe(ts);
488                     if (code == 0) {
489                         UBIK_BEACON_LOCK;
490                         ts->up = 1;
491                         urecovery_state &= ~UBIK_RECFOUNDDB;
492                     }
493                 } else if (!ts->currentDB) {
494                     urecovery_state &= ~UBIK_RECFOUNDDB;
495                 }
496                 UBIK_BEACON_UNLOCK;
497             }
498
499 #ifdef AFS_PTHREAD_ENV
500             DBRELE(ubik_dbase);
501 #endif
502
503             if (doingRPC)
504                 now = FT_ApproxTime();
505             lastProbeTime = now;
506         }
507
508         /* Mark whether we are the sync site */
509         if (!ubeacon_AmSyncSite()) {
510             urecovery_state &= ~UBIK_RECSYNCSITE;
511             continue;           /* nothing to do */
512         }
513         urecovery_state |= UBIK_RECSYNCSITE;
514
515         /* If a server has just come up or if we have not found the
516          * most current database, then go find the most current db.
517          */
518         if (!(urecovery_state & UBIK_RECFOUNDDB)) {
519             bestServer = (struct ubik_server *)0;
520             bestDBVersion.epoch = 0;
521             bestDBVersion.counter = 0;
522             for (ts = ubik_servers; ts; ts = ts->next) {
523                 UBIK_BEACON_LOCK;
524                 if (!ts->up) {
525                     UBIK_BEACON_UNLOCK;
526                     continue;   /* don't bother with these guys */
527                 }
528                 UBIK_BEACON_UNLOCK;
529                 if (ts->isClone)
530                     continue;
531                 UBIK_ADDR_LOCK;
532                 code = DISK_GetVersion(ts->disk_rxcid, &ts->version);
533                 UBIK_ADDR_UNLOCK;
534                 if (code == 0) {
535                     /* perhaps this is the best version */
536                     if (vcmp(ts->version, bestDBVersion) > 0) {
537                         /* new best version */
538                         bestDBVersion = ts->version;
539                         bestServer = ts;
540                     }
541                 }
542             }
543             /* take into consideration our version. Remember if we,
544              * the sync site, have the best version. Also note that
545              * we may need to send the best version out.
546              */
547             if (vcmp(ubik_dbase->version, bestDBVersion) >= 0) {
548                 bestDBVersion = ubik_dbase->version;
549                 bestServer = (struct ubik_server *)0;
550                 urecovery_state |= UBIK_RECHAVEDB;
551             } else {
552                 /* Clear the flag only when we know we have to retrieve
553                  * the db. Because urecovery_AllBetter() looks at it.
554                  */
555                 urecovery_state &= ~UBIK_RECHAVEDB;
556             }
557             urecovery_state |= UBIK_RECFOUNDDB;
558             urecovery_state &= ~UBIK_RECSENTDB;
559         }
560         if (!(urecovery_state & UBIK_RECFOUNDDB))
561             continue;           /* not ready */
562
563         /* If we, the sync site, do not have the best db version, then
564          * go and get it from the server that does.
565          */
566         if ((urecovery_state & UBIK_RECHAVEDB) || !bestServer) {
567             urecovery_state |= UBIK_RECHAVEDB;
568         } else {
569             /* we don't have the best version; we should fetch it. */
570             DBHOLD(ubik_dbase);
571             urecovery_AbortAll(ubik_dbase);
572
573             /* Rx code to do the Bulk fetch */
574             file = 0;
575             offset = 0;
576             UBIK_ADDR_LOCK;
577             rxcall = rx_NewCall(bestServer->disk_rxcid);
578
579             ubik_print("Ubik: Synchronize database with server %s\n",
580                        afs_inet_ntoa_r(bestServer->addr[0], hoststr));
581             UBIK_ADDR_UNLOCK;
582
583             code = StartDISK_GetFile(rxcall, file);
584             if (code) {
585                 ubik_dprint("StartDiskGetFile failed=%d\n", code);
586                 goto FetchEndCall;
587             }
588             nbytes = rx_Read(rxcall, (char *)&length, sizeof(afs_int32));
589             length = ntohl(length);
590             if (nbytes != sizeof(afs_int32)) {
591                 ubik_dprint("Rx-read length error=%d\n", code = BULK_ERROR);
592                 code = EIO;
593                 goto FetchEndCall;
594             }
595
596             /* give invalid label during file transit */
597             tversion.epoch = 0;
598             code = (*ubik_dbase->setlabel) (ubik_dbase, file, &tversion);
599             if (code) {
600                 ubik_dprint("setlabel io error=%d\n", code);
601                 goto FetchEndCall;
602             }
603             snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.TMP",
604                      ubik_dbase->pathName, (file<0)?"SYS":"",
605                      (file<0)?-file:file);
606             fd = open(pbuffer, O_CREAT | O_RDWR | O_TRUNC, 0600);
607             if (fd < 0) {
608                 code = errno;
609                 goto FetchEndCall;
610             }
611             code = lseek(fd, HDRSIZE, 0);
612             if (code != HDRSIZE) {
613                 close(fd);
614                 goto FetchEndCall;
615             }
616
617             pass = 0;
618             while (length > 0) {
619                 tlen = (length > sizeof(tbuffer) ? sizeof(tbuffer) : length);
620 #ifndef AFS_PTHREAD_ENV
621                 if (pass % 4 == 0)
622                     IOMGR_Poll();
623 #endif
624                 nbytes = rx_Read(rxcall, tbuffer, tlen);
625                 if (nbytes != tlen) {
626                     ubik_dprint("Rx-read bulk error=%d\n", code = BULK_ERROR);
627                     code = EIO;
628                     close(fd);
629                     goto FetchEndCall;
630                 }
631                 nbytes = write(fd, tbuffer, tlen);
632                 pass++;
633                 if (nbytes != tlen) {
634                     code = UIOERROR;
635                     close(fd);
636                     goto FetchEndCall;
637                 }
638                 offset += tlen;
639                 length -= tlen;
640             }
641             code = close(fd);
642             if (code)
643                 goto FetchEndCall;
644             code = EndDISK_GetFile(rxcall, &tversion);
645           FetchEndCall:
646             tcode = rx_EndCall(rxcall, code);
647             if (!code)
648                 code = tcode;
649             if (!code) {
650                 /* we got a new file, set up its header */
651                 urecovery_state |= UBIK_RECHAVEDB;
652                 memcpy(&ubik_dbase->version, &tversion,
653                        sizeof(struct ubik_version));
654                 snprintf(tbuffer, sizeof(tbuffer), "%s.DB%s%d",
655                          ubik_dbase->pathName, (file<0)?"SYS":"",
656                          (file<0)?-file:file);
657 #ifdef AFS_NT40_ENV
658                 snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.OLD",
659                          ubik_dbase->pathName, (file<0)?"SYS":"",
660                          (file<0)?-file:file);
661                 code = unlink(pbuffer);
662                 if (!code)
663                     code = rename(tbuffer, pbuffer);
664                 snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.TMP",
665                          ubik_dbase->pathName, (file<0)?"SYS":"",
666                          (file<0)?-file:file);
667 #endif
668                 if (!code)
669                     code = rename(pbuffer, tbuffer);
670                 if (!code) {
671                     (*ubik_dbase->open) (ubik_dbase, file);
672                     /* after data is good, sync disk with correct label */
673                     code =
674                         (*ubik_dbase->setlabel) (ubik_dbase, 0,
675                                                  &ubik_dbase->version);
676                 }
677 #ifdef AFS_NT40_ENV
678                 snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.OLD",
679                          ubik_dbase->pathName, (file<0)?"SYS":"",
680                          (file<0)?-file:file);
681                 unlink(pbuffer);
682 #endif
683             }
684             if (code) {
685                 unlink(pbuffer);
686                 /*
687                  * We will effectively invalidate the old data forever now.
688                  * Unclear if we *should* but we do.
689                  */
690                 ubik_dbase->version.epoch = 0;
691                 ubik_dbase->version.counter = 0;
692                 ubik_print("Ubik: Synchronize database failed (error = %d)\n",
693                            code);
694             } else {
695                 ubik_print("Ubik: Synchronize database completed\n");
696                 urecovery_state |= UBIK_RECHAVEDB;
697             }
698             udisk_Invalidate(ubik_dbase, 0);    /* data has changed */
699 #ifdef AFS_PTHREAD_ENV
700             CV_BROADCAST(&ubik_dbase->version_cond);
701 #else
702             LWP_NoYieldSignal(&ubik_dbase->version);
703 #endif
704             DBRELE(ubik_dbase);
705         }
706         if (!(urecovery_state & UBIK_RECHAVEDB))
707             continue;           /* not ready */
708
709         /* If the database was newly initialized, then when we establish quorum, write
710          * a new label. This allows urecovery_AllBetter() to allow access for reads.
711          * Setting it to 2 also allows another site to come along with a newer
712          * database and overwrite this one.
713          */
714         if (ubik_dbase->version.epoch == 1) {
715             DBHOLD(ubik_dbase);
716             urecovery_AbortAll(ubik_dbase);
717             ubik_epochTime = 2;
718             ubik_dbase->version.epoch = ubik_epochTime;
719             ubik_dbase->version.counter = 1;
720             code =
721                 (*ubik_dbase->setlabel) (ubik_dbase, 0, &ubik_dbase->version);
722             udisk_Invalidate(ubik_dbase, 0);    /* data may have changed */
723 #ifdef AFS_PTHREAD_ENV
724             CV_BROADCAST(&ubik_dbase->version_cond);
725 #else
726             LWP_NoYieldSignal(&ubik_dbase->version);
727 #endif
728             DBRELE(ubik_dbase);
729         }
730
731         /* Check the other sites and send the database to them if they
732          * do not have the current db.
733          */
734         if (!(urecovery_state & UBIK_RECSENTDB)) {
735             /* now propagate out new version to everyone else */
736             dbok = 1;           /* start off assuming they all worked */
737
738             DBHOLD(ubik_dbase);
739             /*
740              * Check if a write transaction is in progress. We can't send the
741              * db when a write is in progress here because the db would be
742              * obsolete as soon as it goes there. Also, ops after the begin
743              * trans would reach the recepient and wouldn't find a transaction
744              * pending there.  Frankly, I don't think it's possible to get past
745              * the write-lock above if there is a write transaction in progress,
746              * but then, it won't hurt to check, will it?
747              */
748             if (ubik_dbase->flags & DBWRITING) {
749                 struct timeval tv;
750                 int safety = 0;
751                 tv.tv_sec = 0;
752                 tv.tv_usec = 50000;
753                 while ((ubik_dbase->flags & DBWRITING) && (safety < 500)) {
754                     DBRELE(ubik_dbase);
755                     /* sleep for a little while */
756 #ifdef AFS_PTHREAD_ENV
757                     select(0, 0, 0, 0, &tv);
758 #else
759                     IOMGR_Select(0, 0, 0, 0, &tv);
760 #endif
761                     tv.tv_usec += 10000;
762                     safety++;
763                     DBHOLD(ubik_dbase);
764                 }
765             }
766
767             for (ts = ubik_servers; ts; ts = ts->next) {
768                 UBIK_ADDR_LOCK;
769                 inAddr.s_addr = ts->addr[0];
770                 UBIK_ADDR_UNLOCK;
771                 UBIK_BEACON_LOCK;
772                 if (!ts->up) {
773                     UBIK_BEACON_UNLOCK;
774                     ubik_dprint("recovery cannot send version to %s\n",
775                                 afs_inet_ntoa_r(inAddr.s_addr, hoststr));
776                     dbok = 0;
777                     continue;
778                 }
779                 UBIK_BEACON_UNLOCK;
780                 ubik_dprint("recovery sending version to %s\n",
781                             afs_inet_ntoa_r(inAddr.s_addr, hoststr));
782                 if (vcmp(ts->version, ubik_dbase->version) != 0) {
783                     ubik_dprint("recovery stating local database\n");
784
785                     /* Rx code to do the Bulk Store */
786                     code = (*ubik_dbase->stat) (ubik_dbase, 0, &ubikstat);
787                     if (!code) {
788                         length = ubikstat.size;
789                         file = offset = 0;
790                         UBIK_ADDR_LOCK;
791                         rxcall = rx_NewCall(ts->disk_rxcid);
792                         UBIK_ADDR_UNLOCK;
793                         code =
794                             StartDISK_SendFile(rxcall, file, length,
795                                                &ubik_dbase->version);
796                         if (code) {
797                             ubik_dprint("StartDiskSendFile failed=%d\n",
798                                         code);
799                             goto StoreEndCall;
800                         }
801                         while (length > 0) {
802                             tlen =
803                                 (length >
804                                  sizeof(tbuffer) ? sizeof(tbuffer) : length);
805                             nbytes =
806                                 (*ubik_dbase->read) (ubik_dbase, file,
807                                                      tbuffer, offset, tlen);
808                             if (nbytes != tlen) {
809                                 ubik_dprint("Local disk read error=%d\n",
810                                             code = UIOERROR);
811                                 goto StoreEndCall;
812                             }
813                             nbytes = rx_Write(rxcall, tbuffer, tlen);
814                             if (nbytes != tlen) {
815                                 ubik_dprint("Rx-write bulk error=%d\n", code =
816                                             BULK_ERROR);
817                                 goto StoreEndCall;
818                             }
819                             offset += tlen;
820                             length -= tlen;
821                         }
822                         code = EndDISK_SendFile(rxcall);
823                       StoreEndCall:
824                         code = rx_EndCall(rxcall, code);
825                     }
826                     if (code == 0) {
827                         /* we set a new file, process its header */
828                         ts->version = ubik_dbase->version;
829                         ts->currentDB = 1;
830                     } else
831                         dbok = 0;
832                 } else {
833                     /* mark file up to date */
834                     ts->currentDB = 1;
835                 }
836             }
837             DBRELE(ubik_dbase);
838             if (dbok)
839                 urecovery_state |= UBIK_RECSENTDB;
840         }
841     }
842     return NULL;
843 }
844
845 /*!
846  * \brief send a Probe to all the network address of this server
847  *
848  * \return 0 if success, else return 1
849  */
850 int
851 DoProbe(struct ubik_server *server)
852 {
853     struct rx_connection *conns[UBIK_MAX_INTERFACE_ADDR];
854     struct rx_connection *connSuccess = 0;
855     int i, j, success_i = -1;
856     afs_uint32 addr;
857     char buffer[32];
858     char hoststr[16];
859
860     UBIK_ADDR_LOCK;
861     for (i = 0; (addr = server->addr[i]) && (i < UBIK_MAX_INTERFACE_ADDR);
862          i++) {
863         conns[i] =
864             rx_NewConnection(addr, ubik_callPortal, DISK_SERVICE_ID,
865                              addr_globals.ubikSecClass, addr_globals.ubikSecIndex);
866
867         /* user requirement to use only the primary interface */
868         if (ubikPrimaryAddrOnly) {
869             i = 1;
870             break;
871         }
872     }
873     UBIK_ADDR_UNLOCK;
874     osi_Assert(i);                      /* at least one interface address for this server */
875
876 #ifdef AFS_PTHREAD_ENV
877     DBRELE(ubik_dbase);
878 #endif
879
880     multi_Rx(conns, i) {
881         multi_DISK_Probe();
882         if (!multi_error) {     /* first success */
883             success_i = multi_i;
884
885             multi_Abort;
886         }
887     } multi_End_Ignore;
888
889 #ifdef AFS_PTHREAD_ENV
890     DBHOLD(ubik_dbase);
891 #endif
892
893     if (success_i >= 0) {
894         UBIK_ADDR_LOCK;
895         addr = server->addr[success_i]; /* successful interface addr */
896
897         if (server->disk_rxcid) /* destroy existing conn */
898             rx_DestroyConnection(server->disk_rxcid);
899         if (server->vote_rxcid)
900             rx_DestroyConnection(server->vote_rxcid);
901
902         /* make new connections */
903         server->disk_rxcid = conns[success_i];
904         server->vote_rxcid = rx_NewConnection(addr, ubik_callPortal,
905                                               VOTE_SERVICE_ID, addr_globals.ubikSecClass,
906                                               addr_globals.ubikSecIndex);
907
908         connSuccess = conns[success_i];
909         strcpy(buffer, afs_inet_ntoa_r(server->addr[0], hoststr));
910
911         ubik_print("ubik:server %s is back up: will be contacted through %s\n",
912              buffer, afs_inet_ntoa_r(addr, hoststr));
913         UBIK_ADDR_UNLOCK;
914     }
915
916     /* Destroy all connections except the one on which we succeeded */
917     for (j = 0; j < i; j++)
918         if (conns[j] != connSuccess)
919             rx_DestroyConnection(conns[j]);
920
921     if (!connSuccess)
922         ubik_dprint("ubik:server %s still down\n",
923                     afs_inet_ntoa_r(server->addr[0], hoststr));
924
925     if (connSuccess)
926         return 0;               /* success */
927     else
928         return 1;               /* failure */
929 }