511081322eb5b44191b1253b2a7fedb8259d92e9
[openafs.git] / src / ubik / recovery.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  *
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  */
9
10 #include <afsconfig.h>
11 #include <afs/param.h>
12
13 #include <roken.h>
14
15 #include <lock.h>
16 #include <rx/xdr.h>
17 #include <rx/rx.h>
18 #include <afs/afsutil.h>
19 #include <afs/cellconfig.h>
20
21 #define UBIK_INTERNALS
22 #include "ubik.h"
23 #include "ubik_int.h"
24
25 /*! \file
26  * This module is responsible for determining when the system has
27  * recovered to the point that it can handle new transactions.  It
28  * replays logs, polls to determine the current dbase after a crash,
29  * and distributes the new database to the others.
30  *
31  * The sync site associates a version number with each database.  It
32  * broadcasts the version associated with its current dbase in every
33  * one of its beacon messages.  When the sync site send a dbase to a
34  * server, it also sends the db's version.  A non-sync site server can
35  * tell if it has the right dbase version by simply comparing the
36  * version from the beacon message \p uvote_dbVersion with the version
37  * associated with the database \p ubik_dbase->version.  The sync site
38  * itself simply has one counter to keep track of all of this (again
39  * \p ubik_dbase->version).
40  *
41  * sync site: routine called when the sync site loses its quorum; this
42  * procedure is called "up" from the beacon package.  It resyncs the
43  * dbase and nudges the recovery daemon to try to propagate out the
44  * changes.  It also resets the recovery daemon's state, since
45  * recovery must potentially find a new dbase to propagate out.  This
46  * routine should not do anything with variables used by non-sync site
47  * servers.
48  */
49
50 /*!
51  * if this flag is set, then ubik will use only the primary address
52  * (the address specified in the CellServDB) to contact other
53  * ubik servers. Ubik recovery will not try opening connections
54  * to the alternate interface addresses.
55  */
56 int ubikPrimaryAddrOnly;
57
58 int
59 urecovery_ResetState(void)
60 {
61     urecovery_state = 0;
62 #if !defined(AFS_PTHREAD_ENV)
63     /*  No corresponding LWP_WaitProcess found anywhere for this -- klm */
64     LWP_NoYieldSignal(&urecovery_state);
65 #endif
66     return 0;
67 }
68
69 /*!
70  * \brief sync site
71  *
72  * routine called when a non-sync site server goes down; restarts recovery
73  * process to send missing server the new db when it comes back up for
74  * non-sync site servers.
75  *
76  * \note This routine should not do anything with variables used by non-sync site servers.
77  */
78 int
79 urecovery_LostServer(struct ubik_server *ts)
80 {
81     ubeacon_ReinitServer(ts);
82 #if !defined(AFS_PTHREAD_ENV)
83     /*  No corresponding LWP_WaitProcess found anywhere for this -- klm */
84     LWP_NoYieldSignal(&urecovery_state);
85 #endif
86     return 0;
87 }
88
89 /*!
90  * return true iff we have a current database (called by both sync
91  * sites and non-sync sites) How do we determine this?  If we're the
92  * sync site, we wait until recovery has finished fetching and
93  * re-labelling its dbase (it may still be trying to propagate it out
94  * to everyone else; that's THEIR problem).  If we're not the sync
95  * site, then we must have a dbase labelled with the right version,
96  * and we must have a currently-good sync site.
97  */
98 int
99 urecovery_AllBetter(struct ubik_dbase *adbase, int areadAny)
100 {
101     afs_int32 rcode;
102
103     ubik_dprint_25("allbetter checking\n");
104     rcode = 0;
105
106
107     if (areadAny) {
108         if (ubik_dbase->version.epoch > 1)
109             rcode = 1;          /* Happy with any good version of database */
110     }
111
112     /* Check if we're sync site and we've got the right data */
113     else if (ubeacon_AmSyncSite() && (urecovery_state & UBIK_RECHAVEDB)) {
114         rcode = 1;
115     }
116
117     /* next, check if we're aux site, and we've ever been sent the
118      * right data (note that if a dbase update fails, we won't think
119      * that the sync site is still the sync site, 'cause it won't talk
120      * to us until a timeout period has gone by.  When we recover, we
121      * leave this clear until we get a new dbase */
122     else if ((uvote_GetSyncSite() && uvote_eq_dbVersion(ubik_dbase->version))) {        /* && order is important */
123         rcode = 1;
124     }
125
126     ubik_dprint_25("allbetter: returning %d\n", rcode);
127     return rcode;
128 }
129
130 /*!
131  * \brief abort all transactions on this database
132  */
133 int
134 urecovery_AbortAll(struct ubik_dbase *adbase)
135 {
136     struct ubik_trans *tt;
137     for (tt = adbase->activeTrans; tt; tt = tt->next) {
138         udisk_abort(tt);
139     }
140     return 0;
141 }
142
143 /*!
144  * \brief this routine aborts the current remote transaction, if any, if the tid is wrong
145  */
146 int
147 urecovery_CheckTid(struct ubik_tid *atid, int abortalways)
148 {
149     if (ubik_currentTrans) {
150         /* there is remote write trans, see if we match, see if this
151          * is a new transaction */
152         if (atid->epoch != ubik_currentTrans->tid.epoch
153             || atid->counter > ubik_currentTrans->tid.counter || abortalways) {
154             /* don't match, abort it */
155             /* If the thread is not waiting for lock - ok to end it */
156             if (ubik_currentTrans->locktype != LOCKWAIT) {
157                 udisk_end(ubik_currentTrans);
158             }
159             ubik_currentTrans = (struct ubik_trans *)0;
160         }
161     }
162     return 0;
163 }
164
165 /*!
166  * \brief replay logs
167  *
168  * log format is defined here, and implicitly in disk.c
169  *
170  * 4 byte opcode, followed by parameters, each 4 bytes long.  All integers
171  * are in logged in network standard byte order, in case we want to move logs
172  * from machine-to-machine someday.
173  *
174  * Begin transaction: opcode \n
175  * Commit transaction: opcode, version (8 bytes) \n
176  * Truncate file: opcode, file number, length \n
177  * Abort transaction: opcode \n
178  * Write data: opcode, file, position, length, <length> data bytes \n
179  *
180  * A very simple routine, it just replays the log.  Note that this is a new-value only log, which
181  * implies that no uncommitted data is written to the dbase: one writes data to the log, including
182  * the commit record, then we allow data to be written through to the dbase.  In our particular
183  * implementation, once a transaction is done, we write out the pages to the database, so that
184  * our buffer package doesn't have to know about stable and uncommitted data in the memory buffers:
185  * any changed data while there is an uncommitted write transaction can be zapped during an
186  * abort and the remaining dbase on the disk is exactly the right dbase, without having to read
187  * the log.
188  */
189 static int
190 ReplayLog(struct ubik_dbase *adbase)
191 {
192     afs_int32 opcode;
193     afs_int32 code, tpos;
194     int logIsGood;
195     afs_int32 len, thisSize, tfile, filePos;
196     afs_int32 buffer[4];
197     afs_int32 syncFile = -1;
198     afs_int32 data[1024];
199
200     /* read the lock twice, once to see whether we have a transaction to deal
201      * with that committed, (theoretically, we should support more than one
202      * trans in the log at once, but not yet), and once replaying the
203      * transactions.  */
204     tpos = 0;
205     logIsGood = 0;
206     /* for now, assume that all ops in log pertain to one transaction; see if there's a commit */
207     while (1) {
208         code =
209             (*adbase->read) (adbase, LOGFILE, (char *)&opcode, tpos,
210                              sizeof(afs_int32));
211         if (code != sizeof(afs_int32))
212             break;
213         opcode = ntohl(opcode);
214         if (opcode == LOGNEW) {
215             /* handle begin trans */
216             tpos += sizeof(afs_int32);
217         } else if (opcode == LOGABORT)
218             break;
219         else if (opcode == LOGEND) {
220             logIsGood = 1;
221             break;
222         } else if (opcode == LOGTRUNCATE) {
223             tpos += 4;
224             code =
225                 (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
226                                  2 * sizeof(afs_int32));
227             if (code != 2 * sizeof(afs_int32))
228                 break;          /* premature eof or io error */
229             tpos += 2 * sizeof(afs_int32);
230         } else if (opcode == LOGDATA) {
231             tpos += 4;
232             code =
233                 (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
234                                  3 * sizeof(afs_int32));
235             if (code != 3 * sizeof(afs_int32))
236                 break;
237             /* otherwise, skip over the data bytes, too */
238             tpos += ntohl(buffer[2]) + 3 * sizeof(afs_int32);
239         } else {
240             ubik_print("corrupt log opcode (%d) at position %d\n", opcode,
241                        tpos);
242             break;              /* corrupt log! */
243         }
244     }
245     if (logIsGood) {
246         /* actually do the replay; log should go all the way through the commit record, since
247          * we just read it above. */
248         tpos = 0;
249         logIsGood = 0;
250         syncFile = -1;
251         while (1) {
252             code =
253                 (*adbase->read) (adbase, LOGFILE, (char *)&opcode, tpos,
254                                  sizeof(afs_int32));
255             if (code != sizeof(afs_int32))
256                 break;
257             opcode = ntohl(opcode);
258             if (opcode == LOGNEW) {
259                 /* handle begin trans */
260                 tpos += sizeof(afs_int32);
261             } else if (opcode == LOGABORT)
262                 panic("log abort\n");
263             else if (opcode == LOGEND) {
264                 struct ubik_version version;
265                 tpos += 4;
266                 code =
267                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
268                                      2 * sizeof(afs_int32));
269                 if (code != 2 * sizeof(afs_int32))
270                     return UBADLOG;
271                 version.epoch = ntohl(buffer[0]);
272                 version.counter = ntohl(buffer[1]);
273                 code = (*adbase->setlabel) (adbase, 0, &version);
274                 if (code)
275                     return code;
276                 ubik_print("Successfully replayed log for interrupted "
277                            "transaction; db version is now %ld.%ld\n",
278                            (long) version.epoch, (long) version.counter);
279                 logIsGood = 1;
280                 break;          /* all done now */
281             } else if (opcode == LOGTRUNCATE) {
282                 tpos += 4;
283                 code =
284                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
285                                      2 * sizeof(afs_int32));
286                 if (code != 2 * sizeof(afs_int32))
287                     break;      /* premature eof or io error */
288                 tpos += 2 * sizeof(afs_int32);
289                 code =
290                     (*adbase->truncate) (adbase, ntohl(buffer[0]),
291                                          ntohl(buffer[1]));
292                 if (code)
293                     return code;
294             } else if (opcode == LOGDATA) {
295                 tpos += 4;
296                 code =
297                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
298                                      3 * sizeof(afs_int32));
299                 if (code != 3 * sizeof(afs_int32))
300                     break;
301                 tpos += 3 * sizeof(afs_int32);
302                 /* otherwise, skip over the data bytes, too */
303                 len = ntohl(buffer[2]); /* total number of bytes to copy */
304                 filePos = ntohl(buffer[1]);
305                 tfile = ntohl(buffer[0]);
306                 /* try to minimize file syncs */
307                 if (syncFile != tfile) {
308                     if (syncFile >= 0)
309                         code = (*adbase->sync) (adbase, syncFile);
310                     else
311                         code = 0;
312                     syncFile = tfile;
313                     if (code)
314                         return code;
315                 }
316                 while (len > 0) {
317                     thisSize = (len > sizeof(data) ? sizeof(data) : len);
318                     /* copy sizeof(data) buffer bytes at a time */
319                     code =
320                         (*adbase->read) (adbase, LOGFILE, (char *)data, tpos,
321                                          thisSize);
322                     if (code != thisSize)
323                         return UBADLOG;
324                     code =
325                         (*adbase->write) (adbase, tfile, (char *)data, filePos,
326                                           thisSize);
327                     if (code != thisSize)
328                         return UBADLOG;
329                     filePos += thisSize;
330                     tpos += thisSize;
331                     len -= thisSize;
332                 }
333             } else {
334                 ubik_print("corrupt log opcode (%d) at position %d\n",
335                            opcode, tpos);
336                 break;          /* corrupt log! */
337             }
338         }
339         if (logIsGood) {
340             if (syncFile >= 0)
341                 code = (*adbase->sync) (adbase, syncFile);
342             if (code)
343                 return code;
344         } else {
345             ubik_print("Log read error on pass 2\n");
346             return UBADLOG;
347         }
348     }
349
350     /* now truncate the log, we're done with it */
351     code = (*adbase->truncate) (adbase, LOGFILE, 0);
352     return code;
353 }
354
355 /*! \brief
356  * Called at initialization to figure out version of the dbase we really have.
357  *
358  * This routine is called after replaying the log; it reads the restored labels.
359  */
360 static int
361 InitializeDB(struct ubik_dbase *adbase)
362 {
363     afs_int32 code;
364
365     code = (*adbase->getlabel) (adbase, 0, &adbase->version);
366     if (code) {
367         /* try setting the label to a new value */
368         UBIK_VERSION_LOCK;
369         adbase->version.epoch = 1;      /* value for newly-initialized db */
370         adbase->version.counter = 1;
371         code = (*adbase->setlabel) (adbase, 0, &adbase->version);
372         if (code) {
373             /* failed, try to set it back */
374             adbase->version.epoch = 0;
375             adbase->version.counter = 0;
376             (*adbase->setlabel) (adbase, 0, &adbase->version);
377         }
378 #ifdef AFS_PTHREAD_ENV
379         CV_BROADCAST(&adbase->version_cond);
380 #else
381         LWP_NoYieldSignal(&adbase->version);
382 #endif
383         UBIK_VERSION_UNLOCK;
384     }
385     return 0;
386 }
387
388 /*!
389  * \brief initialize the local ubik_dbase
390  *
391  * We replay the logs and then read the resulting file to figure out what version we've really got.
392  */
393 int
394 urecovery_Initialize(struct ubik_dbase *adbase)
395 {
396     afs_int32 code;
397
398     DBHOLD(adbase);
399     code = ReplayLog(adbase);
400     if (code)
401         goto done;
402     code = InitializeDB(adbase);
403 done:
404     DBRELE(adbase);
405     return code;
406 }
407
408 /*!
409  * \brief Main interaction loop for the recovery manager
410  *
411  * The recovery light-weight process only runs when you're the
412  * synchronization site.  It performs the following tasks, if and only
413  * if the prerequisite tasks have been performed successfully (it
414  * keeps track of which ones have been performed in its bit map,
415  * \p urecovery_state).
416  *
417  * First, it is responsible for probing that all servers are up.  This
418  * is the only operation that must be performed even if this is not
419  * yet the sync site, since otherwise this site may not notice that
420  * enough other machines are running to even elect this guy to be the
421  * sync site.
422  *
423  * After that, the recovery process does nothing until the beacon and
424  * voting modules manage to get this site elected sync site.
425  *
426  * After becoming sync site, recovery first attempts to find the best
427  * database available in the network (it must do this in order to
428  * ensure finding the latest committed data).  After finding the right
429  * database, it must fetch this dbase to the sync site.
430  *
431  * After fetching the dbase, it relabels it with a new version number,
432  * to ensure that everyone recognizes this dbase as the most recent
433  * dbase.
434  *
435  * One the dbase has been relabelled, this machine can start handling
436  * requests.  However, the recovery module still has one more task:
437  * propagating the dbase out to everyone who is up in the network.
438  */
439 void *
440 urecovery_Interact(void *dummy)
441 {
442     afs_int32 code, tcode;
443     struct ubik_server *bestServer = NULL;
444     struct ubik_server *ts;
445     int dbok, doingRPC, now;
446     afs_int32 lastProbeTime;
447     /* if we're the sync site, the best db version we've found yet */
448     static struct ubik_version bestDBVersion;
449     struct ubik_version tversion;
450     struct timeval tv;
451     int length, tlen, offset, file, nbytes;
452     struct rx_call *rxcall;
453     char tbuffer[1024];
454     struct ubik_stat ubikstat;
455     struct in_addr inAddr;
456     char hoststr[16];
457     char pbuffer[1028];
458     int fd = -1;
459     afs_int32 pass;
460
461     /* otherwise, begin interaction */
462     urecovery_state = 0;
463     lastProbeTime = 0;
464     while (1) {
465         /* Run through this loop every 4 seconds */
466         tv.tv_sec = 4;
467         tv.tv_usec = 0;
468 #ifdef AFS_PTHREAD_ENV
469         select(0, 0, 0, 0, &tv);
470 #else
471         IOMGR_Select(0, 0, 0, 0, &tv);
472 #endif
473
474         ubik_dprint("recovery running in state %x\n", urecovery_state);
475
476         /* Every 30 seconds, check all the down servers and mark them
477          * as up if they respond. When a server comes up or found to
478          * not be current, then re-find the the best database and
479          * propogate it.
480          */
481         if ((now = FT_ApproxTime()) > 30 + lastProbeTime) {
482
483             for (ts = ubik_servers, doingRPC = 0; ts; ts = ts->next) {
484                 UBIK_BEACON_LOCK;
485                 if (!ts->up) {
486                     UBIK_BEACON_UNLOCK;
487                     doingRPC = 1;
488                     code = DoProbe(ts);
489                     if (code == 0) {
490                         UBIK_BEACON_LOCK;
491                         ts->up = 1;
492                         UBIK_BEACON_UNLOCK;
493                         DBHOLD(ubik_dbase);
494                         urecovery_state &= ~UBIK_RECFOUNDDB;
495                         DBRELE(ubik_dbase);
496                     }
497                 } else {
498                     UBIK_BEACON_UNLOCK;
499                     DBHOLD(ubik_dbase);
500                     if (!ts->currentDB)
501                         urecovery_state &= ~UBIK_RECFOUNDDB;
502                     DBRELE(ubik_dbase);
503                 }
504             }
505
506             if (doingRPC)
507                 now = FT_ApproxTime();
508             lastProbeTime = now;
509         }
510
511         /* Mark whether we are the sync site */
512         DBHOLD(ubik_dbase);
513         if (!ubeacon_AmSyncSite()) {
514             urecovery_state &= ~UBIK_RECSYNCSITE;
515             DBRELE(ubik_dbase);
516             continue;           /* nothing to do */
517         }
518         urecovery_state |= UBIK_RECSYNCSITE;
519
520         /* If a server has just come up or if we have not found the
521          * most current database, then go find the most current db.
522          */
523         if (!(urecovery_state & UBIK_RECFOUNDDB)) {
524             DBRELE(ubik_dbase);
525             bestServer = (struct ubik_server *)0;
526             bestDBVersion.epoch = 0;
527             bestDBVersion.counter = 0;
528             for (ts = ubik_servers; ts; ts = ts->next) {
529                 UBIK_BEACON_LOCK;
530                 if (!ts->up) {
531                     UBIK_BEACON_UNLOCK;
532                     continue;   /* don't bother with these guys */
533                 }
534                 UBIK_BEACON_UNLOCK;
535                 if (ts->isClone)
536                     continue;
537                 UBIK_ADDR_LOCK;
538                 code = DISK_GetVersion(ts->disk_rxcid, &ts->version);
539                 UBIK_ADDR_UNLOCK;
540                 if (code == 0) {
541                     /* perhaps this is the best version */
542                     if (vcmp(ts->version, bestDBVersion) > 0) {
543                         /* new best version */
544                         bestDBVersion = ts->version;
545                         bestServer = ts;
546                     }
547                 }
548             }
549             /* take into consideration our version. Remember if we,
550              * the sync site, have the best version. Also note that
551              * we may need to send the best version out.
552              */
553             DBHOLD(ubik_dbase);
554             if (vcmp(ubik_dbase->version, bestDBVersion) >= 0) {
555                 bestDBVersion = ubik_dbase->version;
556                 bestServer = (struct ubik_server *)0;
557                 urecovery_state |= UBIK_RECHAVEDB;
558             } else {
559                 /* Clear the flag only when we know we have to retrieve
560                  * the db. Because urecovery_AllBetter() looks at it.
561                  */
562                 urecovery_state &= ~UBIK_RECHAVEDB;
563             }
564             urecovery_state |= UBIK_RECFOUNDDB;
565             urecovery_state &= ~UBIK_RECSENTDB;
566         }
567         if (!(urecovery_state & UBIK_RECFOUNDDB)) {
568             DBRELE(ubik_dbase);
569             continue;           /* not ready */
570         }
571
572         /* If we, the sync site, do not have the best db version, then
573          * go and get it from the server that does.
574          */
575         if ((urecovery_state & UBIK_RECHAVEDB) || !bestServer) {
576             urecovery_state |= UBIK_RECHAVEDB;
577         } else {
578             /* we don't have the best version; we should fetch it. */
579             urecovery_AbortAll(ubik_dbase);
580
581             /* Rx code to do the Bulk fetch */
582             file = 0;
583             offset = 0;
584             UBIK_ADDR_LOCK;
585             rxcall = rx_NewCall(bestServer->disk_rxcid);
586
587             ubik_print("Ubik: Synchronize database with server %s\n",
588                        afs_inet_ntoa_r(bestServer->addr[0], hoststr));
589             UBIK_ADDR_UNLOCK;
590
591             code = StartDISK_GetFile(rxcall, file);
592             if (code) {
593                 ubik_dprint("StartDiskGetFile failed=%d\n", code);
594                 goto FetchEndCall;
595             }
596             nbytes = rx_Read(rxcall, (char *)&length, sizeof(afs_int32));
597             length = ntohl(length);
598             if (nbytes != sizeof(afs_int32)) {
599                 ubik_dprint("Rx-read length error=%d\n", code = BULK_ERROR);
600                 code = EIO;
601                 goto FetchEndCall;
602             }
603
604             /* give invalid label during file transit */
605             UBIK_VERSION_LOCK;
606             tversion.epoch = 0;
607             code = (*ubik_dbase->setlabel) (ubik_dbase, file, &tversion);
608             UBIK_VERSION_UNLOCK;
609             if (code) {
610                 ubik_dprint("setlabel io error=%d\n", code);
611                 goto FetchEndCall;
612             }
613             snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.TMP",
614                      ubik_dbase->pathName, (file<0)?"SYS":"",
615                      (file<0)?-file:file);
616             fd = open(pbuffer, O_CREAT | O_RDWR | O_TRUNC, 0600);
617             if (fd < 0) {
618                 code = errno;
619                 goto FetchEndCall;
620             }
621             code = lseek(fd, HDRSIZE, 0);
622             if (code != HDRSIZE) {
623                 close(fd);
624                 goto FetchEndCall;
625             }
626
627             pass = 0;
628             while (length > 0) {
629                 tlen = (length > sizeof(tbuffer) ? sizeof(tbuffer) : length);
630 #ifndef AFS_PTHREAD_ENV
631                 if (pass % 4 == 0)
632                     IOMGR_Poll();
633 #endif
634                 nbytes = rx_Read(rxcall, tbuffer, tlen);
635                 if (nbytes != tlen) {
636                     ubik_dprint("Rx-read bulk error=%d\n", code = BULK_ERROR);
637                     code = EIO;
638                     close(fd);
639                     goto FetchEndCall;
640                 }
641                 nbytes = write(fd, tbuffer, tlen);
642                 pass++;
643                 if (nbytes != tlen) {
644                     code = UIOERROR;
645                     close(fd);
646                     goto FetchEndCall;
647                 }
648                 offset += tlen;
649                 length -= tlen;
650             }
651             code = close(fd);
652             if (code)
653                 goto FetchEndCall;
654             code = EndDISK_GetFile(rxcall, &tversion);
655           FetchEndCall:
656             tcode = rx_EndCall(rxcall, code);
657             if (!code)
658                 code = tcode;
659             if (!code) {
660                 /* we got a new file, set up its header */
661                 urecovery_state |= UBIK_RECHAVEDB;
662                 UBIK_VERSION_LOCK;
663                 memcpy(&ubik_dbase->version, &tversion,
664                        sizeof(struct ubik_version));
665                 snprintf(tbuffer, sizeof(tbuffer), "%s.DB%s%d",
666                          ubik_dbase->pathName, (file<0)?"SYS":"",
667                          (file<0)?-file:file);
668 #ifdef AFS_NT40_ENV
669                 snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.OLD",
670                          ubik_dbase->pathName, (file<0)?"SYS":"",
671                          (file<0)?-file:file);
672                 code = unlink(pbuffer);
673                 if (!code)
674                     code = rename(tbuffer, pbuffer);
675                 snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.TMP",
676                          ubik_dbase->pathName, (file<0)?"SYS":"",
677                          (file<0)?-file:file);
678 #endif
679                 if (!code)
680                     code = rename(pbuffer, tbuffer);
681                 if (!code) {
682                     (*ubik_dbase->open) (ubik_dbase, file);
683                     /* after data is good, sync disk with correct label */
684                     code =
685                         (*ubik_dbase->setlabel) (ubik_dbase, 0,
686                                                  &ubik_dbase->version);
687                 }
688                 UBIK_VERSION_UNLOCK;
689 #ifdef AFS_NT40_ENV
690                 snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.OLD",
691                          ubik_dbase->pathName, (file<0)?"SYS":"",
692                          (file<0)?-file:file);
693                 unlink(pbuffer);
694 #endif
695             }
696             if (code) {
697                 unlink(pbuffer);
698                 /*
699                  * We will effectively invalidate the old data forever now.
700                  * Unclear if we *should* but we do.
701                  */
702                 UBIK_VERSION_LOCK;
703                 ubik_dbase->version.epoch = 0;
704                 ubik_dbase->version.counter = 0;
705                 UBIK_VERSION_UNLOCK;
706                 ubik_print("Ubik: Synchronize database failed (error = %d)\n",
707                            code);
708             } else {
709                 ubik_print("Ubik: Synchronize database completed\n");
710                 urecovery_state |= UBIK_RECHAVEDB;
711             }
712             udisk_Invalidate(ubik_dbase, 0);    /* data has changed */
713 #ifdef AFS_PTHREAD_ENV
714             CV_BROADCAST(&ubik_dbase->version_cond);
715 #else
716             LWP_NoYieldSignal(&ubik_dbase->version);
717 #endif
718         }
719         if (!(urecovery_state & UBIK_RECHAVEDB)) {
720             DBRELE(ubik_dbase);
721             continue;           /* not ready */
722         }
723
724         /* If the database was newly initialized, then when we establish quorum, write
725          * a new label. This allows urecovery_AllBetter() to allow access for reads.
726          * Setting it to 2 also allows another site to come along with a newer
727          * database and overwrite this one.
728          */
729         if (ubik_dbase->version.epoch == 1) {
730             urecovery_AbortAll(ubik_dbase);
731             UBIK_VERSION_LOCK;
732             version_globals.ubik_epochTime = 2;
733             ubik_dbase->version.epoch = version_globals.ubik_epochTime;
734             ubik_dbase->version.counter = 1;
735             code =
736                 (*ubik_dbase->setlabel) (ubik_dbase, 0, &ubik_dbase->version);
737             UBIK_VERSION_UNLOCK;
738             udisk_Invalidate(ubik_dbase, 0);    /* data may have changed */
739 #ifdef AFS_PTHREAD_ENV
740             CV_BROADCAST(&ubik_dbase->version_cond);
741 #else
742             LWP_NoYieldSignal(&ubik_dbase->version);
743 #endif
744         }
745
746         /* Check the other sites and send the database to them if they
747          * do not have the current db.
748          */
749         if (!(urecovery_state & UBIK_RECSENTDB)) {
750             /* now propagate out new version to everyone else */
751             dbok = 1;           /* start off assuming they all worked */
752
753             /*
754              * Check if a write transaction is in progress. We can't send the
755              * db when a write is in progress here because the db would be
756              * obsolete as soon as it goes there. Also, ops after the begin
757              * trans would reach the recepient and wouldn't find a transaction
758              * pending there.  Frankly, I don't think it's possible to get past
759              * the write-lock above if there is a write transaction in progress,
760              * but then, it won't hurt to check, will it?
761              */
762             if (ubik_dbase->flags & DBWRITING) {
763                 struct timeval tv;
764                 int safety = 0;
765                 long cur_usec = 50000;
766                 while ((ubik_dbase->flags & DBWRITING) && (safety < 500)) {
767                     DBRELE(ubik_dbase);
768                     /* sleep for a little while */
769                     tv.tv_sec = 0;
770                     tv.tv_usec = cur_usec;
771 #ifdef AFS_PTHREAD_ENV
772                     select(0, 0, 0, 0, &tv);
773 #else
774                     IOMGR_Select(0, 0, 0, 0, &tv);
775 #endif
776                     cur_usec += 10000;
777                     safety++;
778                     DBHOLD(ubik_dbase);
779                 }
780             }
781
782             for (ts = ubik_servers; ts; ts = ts->next) {
783                 UBIK_ADDR_LOCK;
784                 inAddr.s_addr = ts->addr[0];
785                 UBIK_ADDR_UNLOCK;
786                 UBIK_BEACON_LOCK;
787                 if (!ts->up) {
788                     UBIK_BEACON_UNLOCK;
789                     ubik_dprint("recovery cannot send version to %s\n",
790                                 afs_inet_ntoa_r(inAddr.s_addr, hoststr));
791                     dbok = 0;
792                     continue;
793                 }
794                 UBIK_BEACON_UNLOCK;
795                 ubik_dprint("recovery sending version to %s\n",
796                             afs_inet_ntoa_r(inAddr.s_addr, hoststr));
797                 if (vcmp(ts->version, ubik_dbase->version) != 0) {
798                     ubik_dprint("recovery stating local database\n");
799
800                     /* Rx code to do the Bulk Store */
801                     code = (*ubik_dbase->stat) (ubik_dbase, 0, &ubikstat);
802                     if (!code) {
803                         length = ubikstat.size;
804                         file = offset = 0;
805                         UBIK_ADDR_LOCK;
806                         rxcall = rx_NewCall(ts->disk_rxcid);
807                         UBIK_ADDR_UNLOCK;
808                         code =
809                             StartDISK_SendFile(rxcall, file, length,
810                                                &ubik_dbase->version);
811                         if (code) {
812                             ubik_dprint("StartDiskSendFile failed=%d\n",
813                                         code);
814                             goto StoreEndCall;
815                         }
816                         while (length > 0) {
817                             tlen =
818                                 (length >
819                                  sizeof(tbuffer) ? sizeof(tbuffer) : length);
820                             nbytes =
821                                 (*ubik_dbase->read) (ubik_dbase, file,
822                                                      tbuffer, offset, tlen);
823                             if (nbytes != tlen) {
824                                 ubik_dprint("Local disk read error=%d\n",
825                                             code = UIOERROR);
826                                 goto StoreEndCall;
827                             }
828                             nbytes = rx_Write(rxcall, tbuffer, tlen);
829                             if (nbytes != tlen) {
830                                 ubik_dprint("Rx-write bulk error=%d\n", code =
831                                             BULK_ERROR);
832                                 goto StoreEndCall;
833                             }
834                             offset += tlen;
835                             length -= tlen;
836                         }
837                         code = EndDISK_SendFile(rxcall);
838                       StoreEndCall:
839                         code = rx_EndCall(rxcall, code);
840                     }
841                     if (code == 0) {
842                         /* we set a new file, process its header */
843                         ts->version = ubik_dbase->version;
844                         ts->currentDB = 1;
845                     } else
846                         dbok = 0;
847                 } else {
848                     /* mark file up to date */
849                     ts->currentDB = 1;
850                 }
851             }
852             if (dbok)
853                 urecovery_state |= UBIK_RECSENTDB;
854         }
855         DBRELE(ubik_dbase);
856     }
857     return NULL;
858 }
859
860 /*!
861  * \brief send a Probe to all the network address of this server
862  *
863  * \return 0 if success, else return 1
864  */
865 int
866 DoProbe(struct ubik_server *server)
867 {
868     struct rx_connection *conns[UBIK_MAX_INTERFACE_ADDR];
869     struct rx_connection *connSuccess = 0;
870     int i, j, success_i = -1;
871     afs_uint32 addr;
872     char buffer[32];
873     char hoststr[16];
874
875     UBIK_ADDR_LOCK;
876     for (i = 0; (addr = server->addr[i]) && (i < UBIK_MAX_INTERFACE_ADDR);
877          i++) {
878         conns[i] =
879             rx_NewConnection(addr, ubik_callPortal, DISK_SERVICE_ID,
880                              addr_globals.ubikSecClass, addr_globals.ubikSecIndex);
881
882         /* user requirement to use only the primary interface */
883         if (ubikPrimaryAddrOnly) {
884             i = 1;
885             break;
886         }
887     }
888     UBIK_ADDR_UNLOCK;
889     osi_Assert(i);                      /* at least one interface address for this server */
890
891     multi_Rx(conns, i) {
892         multi_DISK_Probe();
893         if (!multi_error) {     /* first success */
894             success_i = multi_i;
895
896             multi_Abort;
897         }
898     } multi_End_Ignore;
899
900     if (success_i >= 0) {
901         UBIK_ADDR_LOCK;
902         addr = server->addr[success_i]; /* successful interface addr */
903
904         if (server->disk_rxcid) /* destroy existing conn */
905             rx_DestroyConnection(server->disk_rxcid);
906         if (server->vote_rxcid)
907             rx_DestroyConnection(server->vote_rxcid);
908
909         /* make new connections */
910         server->disk_rxcid = conns[success_i];
911         server->vote_rxcid = rx_NewConnection(addr, ubik_callPortal,
912                                               VOTE_SERVICE_ID, addr_globals.ubikSecClass,
913                                               addr_globals.ubikSecIndex);
914
915         connSuccess = conns[success_i];
916         strcpy(buffer, afs_inet_ntoa_r(server->addr[0], hoststr));
917
918         ubik_print("ubik:server %s is back up: will be contacted through %s\n",
919              buffer, afs_inet_ntoa_r(addr, hoststr));
920         UBIK_ADDR_UNLOCK;
921     }
922
923     /* Destroy all connections except the one on which we succeeded */
924     for (j = 0; j < i; j++)
925         if (conns[j] != connSuccess)
926             rx_DestroyConnection(conns[j]);
927
928     if (!connSuccess)
929         ubik_dprint("ubik:server %s still down\n",
930                     afs_inet_ntoa_r(server->addr[0], hoststr));
931
932     if (connSuccess)
933         return 0;               /* success */
934     else
935         return 1;               /* failure */
936 }