ubik: convert ubik_print to ViceLog
[openafs.git] / src / ubik / recovery.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  *
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  */
9
10 #include <afsconfig.h>
11 #include <afs/param.h>
12
13 #include <roken.h>
14
15 #include <afs/opr.h>
16
17 #ifdef AFS_PTHREAD_ENV
18 # include <opr/lock.h>
19 #else
20 # include <opr/lockstub.h>
21 #endif
22
23 #include <rx/rx.h>
24 #include <afs/afsutil.h>
25 #include <afs/cellconfig.h>
26
27
28 #define UBIK_INTERNALS
29 #include "ubik.h"
30 #include "ubik_int.h"
31
32 /*! \file
33  * This module is responsible for determining when the system has
34  * recovered to the point that it can handle new transactions.  It
35  * replays logs, polls to determine the current dbase after a crash,
36  * and distributes the new database to the others.
37  *
38  * The sync site associates a version number with each database.  It
39  * broadcasts the version associated with its current dbase in every
40  * one of its beacon messages.  When the sync site send a dbase to a
41  * server, it also sends the db's version.  A non-sync site server can
42  * tell if it has the right dbase version by simply comparing the
43  * version from the beacon message \p uvote_dbVersion with the version
44  * associated with the database \p ubik_dbase->version.  The sync site
45  * itself simply has one counter to keep track of all of this (again
46  * \p ubik_dbase->version).
47  *
48  * sync site: routine called when the sync site loses its quorum; this
49  * procedure is called "up" from the beacon package.  It resyncs the
50  * dbase and nudges the recovery daemon to try to propagate out the
51  * changes.  It also resets the recovery daemon's state, since
52  * recovery must potentially find a new dbase to propagate out.  This
53  * routine should not do anything with variables used by non-sync site
54  * servers.
55  */
56
57 /*!
58  * if this flag is set, then ubik will use only the primary address
59  * (the address specified in the CellServDB) to contact other
60  * ubik servers. Ubik recovery will not try opening connections
61  * to the alternate interface addresses.
62  */
63 int ubikPrimaryAddrOnly;
64
65 int
66 urecovery_ResetState(void)
67 {
68     urecovery_state = 0;
69     return 0;
70 }
71
72 /*!
73  * \brief sync site
74  *
75  * routine called when a non-sync site server goes down; restarts recovery
76  * process to send missing server the new db when it comes back up for
77  * non-sync site servers.
78  *
79  * \note This routine should not do anything with variables used by non-sync site servers.
80  */
81 int
82 urecovery_LostServer(struct ubik_server *ts)
83 {
84     ubeacon_ReinitServer(ts);
85     return 0;
86 }
87
88 /*!
89  * return true iff we have a current database (called by both sync
90  * sites and non-sync sites) How do we determine this?  If we're the
91  * sync site, we wait until recovery has finished fetching and
92  * re-labelling its dbase (it may still be trying to propagate it out
93  * to everyone else; that's THEIR problem).  If we're not the sync
94  * site, then we must have a dbase labelled with the right version,
95  * and we must have a currently-good sync site.
96  */
97 int
98 urecovery_AllBetter(struct ubik_dbase *adbase, int areadAny)
99 {
100     afs_int32 rcode;
101
102     ViceLog(25, ("allbetter checking\n"));
103     rcode = 0;
104
105
106     if (areadAny) {
107         if (ubik_dbase->version.epoch > 1)
108             rcode = 1;          /* Happy with any good version of database */
109     }
110
111     /* Check if we're sync site and we've got the right data */
112     else if (ubeacon_AmSyncSite() && (urecovery_state & UBIK_RECHAVEDB)) {
113         rcode = 1;
114     }
115
116     /* next, check if we're aux site, and we've ever been sent the
117      * right data (note that if a dbase update fails, we won't think
118      * that the sync site is still the sync site, 'cause it won't talk
119      * to us until a timeout period has gone by.  When we recover, we
120      * leave this clear until we get a new dbase */
121     else if (uvote_HaveSyncAndVersion(ubik_dbase->version)) {
122         rcode = 1;
123     }
124
125     ViceLog(25, ("allbetter: returning %d\n", rcode));
126     return rcode;
127 }
128
129 /*!
130  * \brief abort all transactions on this database
131  */
132 int
133 urecovery_AbortAll(struct ubik_dbase *adbase)
134 {
135     struct ubik_trans *tt;
136     for (tt = adbase->activeTrans; tt; tt = tt->next) {
137         udisk_abort(tt);
138     }
139     return 0;
140 }
141
142 /*!
143  * \brief this routine aborts the current remote transaction, if any, if the tid is wrong
144  */
145 int
146 urecovery_CheckTid(struct ubik_tid *atid, int abortalways)
147 {
148     if (ubik_currentTrans) {
149         /* there is remote write trans, see if we match, see if this
150          * is a new transaction */
151         if (atid->epoch != ubik_currentTrans->tid.epoch
152             || atid->counter > ubik_currentTrans->tid.counter || abortalways) {
153             /* don't match, abort it */
154             /* If the thread is not waiting for lock - ok to end it */
155             if (ubik_currentTrans->locktype != LOCKWAIT) {
156                 udisk_end(ubik_currentTrans);
157             }
158             ubik_currentTrans = (struct ubik_trans *)0;
159         }
160     }
161     return 0;
162 }
163
164 /*!
165  * \brief replay logs
166  *
167  * log format is defined here, and implicitly in disk.c
168  *
169  * 4 byte opcode, followed by parameters, each 4 bytes long.  All integers
170  * are in logged in network standard byte order, in case we want to move logs
171  * from machine-to-machine someday.
172  *
173  * Begin transaction: opcode \n
174  * Commit transaction: opcode, version (8 bytes) \n
175  * Truncate file: opcode, file number, length \n
176  * Abort transaction: opcode \n
177  * Write data: opcode, file, position, length, <length> data bytes \n
178  *
179  * A very simple routine, it just replays the log.  Note that this is a new-value only log, which
180  * implies that no uncommitted data is written to the dbase: one writes data to the log, including
181  * the commit record, then we allow data to be written through to the dbase.  In our particular
182  * implementation, once a transaction is done, we write out the pages to the database, so that
183  * our buffer package doesn't have to know about stable and uncommitted data in the memory buffers:
184  * any changed data while there is an uncommitted write transaction can be zapped during an
185  * abort and the remaining dbase on the disk is exactly the right dbase, without having to read
186  * the log.
187  */
188 static int
189 ReplayLog(struct ubik_dbase *adbase)
190 {
191     afs_int32 opcode;
192     afs_int32 code, tpos;
193     int logIsGood;
194     afs_int32 len, thisSize, tfile, filePos;
195     afs_int32 buffer[4];
196     afs_int32 syncFile = -1;
197     afs_int32 data[1024];
198
199     /* read the lock twice, once to see whether we have a transaction to deal
200      * with that committed, (theoretically, we should support more than one
201      * trans in the log at once, but not yet), and once replaying the
202      * transactions.  */
203     tpos = 0;
204     logIsGood = 0;
205     /* for now, assume that all ops in log pertain to one transaction; see if there's a commit */
206     while (1) {
207         code =
208             (*adbase->read) (adbase, LOGFILE, (char *)&opcode, tpos,
209                              sizeof(afs_int32));
210         if (code != sizeof(afs_int32))
211             break;
212         opcode = ntohl(opcode);
213         if (opcode == LOGNEW) {
214             /* handle begin trans */
215             tpos += sizeof(afs_int32);
216         } else if (opcode == LOGABORT)
217             break;
218         else if (opcode == LOGEND) {
219             logIsGood = 1;
220             break;
221         } else if (opcode == LOGTRUNCATE) {
222             tpos += 4;
223             code =
224                 (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
225                                  2 * sizeof(afs_int32));
226             if (code != 2 * sizeof(afs_int32))
227                 break;          /* premature eof or io error */
228             tpos += 2 * sizeof(afs_int32);
229         } else if (opcode == LOGDATA) {
230             tpos += 4;
231             code =
232                 (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
233                                  3 * sizeof(afs_int32));
234             if (code != 3 * sizeof(afs_int32))
235                 break;
236             /* otherwise, skip over the data bytes, too */
237             tpos += ntohl(buffer[2]) + 3 * sizeof(afs_int32);
238         } else {
239             ViceLog(0, ("corrupt log opcode (%d) at position %d\n", opcode,
240                        tpos));
241             break;              /* corrupt log! */
242         }
243     }
244     if (logIsGood) {
245         /* actually do the replay; log should go all the way through the commit record, since
246          * we just read it above. */
247         tpos = 0;
248         logIsGood = 0;
249         syncFile = -1;
250         while (1) {
251             code =
252                 (*adbase->read) (adbase, LOGFILE, (char *)&opcode, tpos,
253                                  sizeof(afs_int32));
254             if (code != sizeof(afs_int32))
255                 break;
256             opcode = ntohl(opcode);
257             if (opcode == LOGNEW) {
258                 /* handle begin trans */
259                 tpos += sizeof(afs_int32);
260             } else if (opcode == LOGABORT)
261                 panic("log abort\n");
262             else if (opcode == LOGEND) {
263                 struct ubik_version version;
264                 tpos += 4;
265                 code =
266                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
267                                      2 * sizeof(afs_int32));
268                 if (code != 2 * sizeof(afs_int32))
269                     return UBADLOG;
270                 version.epoch = ntohl(buffer[0]);
271                 version.counter = ntohl(buffer[1]);
272                 code = (*adbase->setlabel) (adbase, 0, &version);
273                 if (code)
274                     return code;
275                 ViceLog(0, ("Successfully replayed log for interrupted "
276                            "transaction; db version is now %ld.%ld\n",
277                            (long) version.epoch, (long) version.counter));
278                 logIsGood = 1;
279                 break;          /* all done now */
280             } else if (opcode == LOGTRUNCATE) {
281                 tpos += 4;
282                 code =
283                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
284                                      2 * sizeof(afs_int32));
285                 if (code != 2 * sizeof(afs_int32))
286                     break;      /* premature eof or io error */
287                 tpos += 2 * sizeof(afs_int32);
288                 code =
289                     (*adbase->truncate) (adbase, ntohl(buffer[0]),
290                                          ntohl(buffer[1]));
291                 if (code)
292                     return code;
293             } else if (opcode == LOGDATA) {
294                 tpos += 4;
295                 code =
296                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
297                                      3 * sizeof(afs_int32));
298                 if (code != 3 * sizeof(afs_int32))
299                     break;
300                 tpos += 3 * sizeof(afs_int32);
301                 /* otherwise, skip over the data bytes, too */
302                 len = ntohl(buffer[2]); /* total number of bytes to copy */
303                 filePos = ntohl(buffer[1]);
304                 tfile = ntohl(buffer[0]);
305                 /* try to minimize file syncs */
306                 if (syncFile != tfile) {
307                     if (syncFile >= 0)
308                         code = (*adbase->sync) (adbase, syncFile);
309                     else
310                         code = 0;
311                     syncFile = tfile;
312                     if (code)
313                         return code;
314                 }
315                 while (len > 0) {
316                     thisSize = (len > sizeof(data) ? sizeof(data) : len);
317                     /* copy sizeof(data) buffer bytes at a time */
318                     code =
319                         (*adbase->read) (adbase, LOGFILE, (char *)data, tpos,
320                                          thisSize);
321                     if (code != thisSize)
322                         return UBADLOG;
323                     code =
324                         (*adbase->write) (adbase, tfile, (char *)data, filePos,
325                                           thisSize);
326                     if (code != thisSize)
327                         return UBADLOG;
328                     filePos += thisSize;
329                     tpos += thisSize;
330                     len -= thisSize;
331                 }
332             } else {
333                 ViceLog(0, ("corrupt log opcode (%d) at position %d\n",
334                            opcode, tpos));
335                 break;          /* corrupt log! */
336             }
337         }
338         if (logIsGood) {
339             if (syncFile >= 0)
340                 code = (*adbase->sync) (adbase, syncFile);
341             if (code)
342                 return code;
343         } else {
344             ViceLog(0, ("Log read error on pass 2\n"));
345             return UBADLOG;
346         }
347     }
348
349     /* now truncate the log, we're done with it */
350     code = (*adbase->truncate) (adbase, LOGFILE, 0);
351     return code;
352 }
353
354 /*! \brief
355  * Called at initialization to figure out version of the dbase we really have.
356  *
357  * This routine is called after replaying the log; it reads the restored labels.
358  */
359 static int
360 InitializeDB(struct ubik_dbase *adbase)
361 {
362     afs_int32 code;
363
364     code = (*adbase->getlabel) (adbase, 0, &adbase->version);
365     if (code) {
366         /* try setting the label to a new value */
367         UBIK_VERSION_LOCK;
368         adbase->version.epoch = 1;      /* value for newly-initialized db */
369         adbase->version.counter = 1;
370         code = (*adbase->setlabel) (adbase, 0, &adbase->version);
371         if (code) {
372             /* failed, try to set it back */
373             adbase->version.epoch = 0;
374             adbase->version.counter = 0;
375             (*adbase->setlabel) (adbase, 0, &adbase->version);
376         }
377 #ifdef AFS_PTHREAD_ENV
378         opr_cv_broadcast(&adbase->version_cond);
379 #else
380         LWP_NoYieldSignal(&adbase->version);
381 #endif
382         UBIK_VERSION_UNLOCK;
383     }
384     return 0;
385 }
386
387 /*!
388  * \brief initialize the local ubik_dbase
389  *
390  * We replay the logs and then read the resulting file to figure out what version we've really got.
391  */
392 int
393 urecovery_Initialize(struct ubik_dbase *adbase)
394 {
395     afs_int32 code;
396
397     DBHOLD(adbase);
398     code = ReplayLog(adbase);
399     if (code)
400         goto done;
401     code = InitializeDB(adbase);
402 done:
403     DBRELE(adbase);
404     return code;
405 }
406
407 /*!
408  * \brief Main interaction loop for the recovery manager
409  *
410  * The recovery light-weight process only runs when you're the
411  * synchronization site.  It performs the following tasks, if and only
412  * if the prerequisite tasks have been performed successfully (it
413  * keeps track of which ones have been performed in its bit map,
414  * \p urecovery_state).
415  *
416  * First, it is responsible for probing that all servers are up.  This
417  * is the only operation that must be performed even if this is not
418  * yet the sync site, since otherwise this site may not notice that
419  * enough other machines are running to even elect this guy to be the
420  * sync site.
421  *
422  * After that, the recovery process does nothing until the beacon and
423  * voting modules manage to get this site elected sync site.
424  *
425  * After becoming sync site, recovery first attempts to find the best
426  * database available in the network (it must do this in order to
427  * ensure finding the latest committed data).  After finding the right
428  * database, it must fetch this dbase to the sync site.
429  *
430  * After fetching the dbase, it relabels it with a new version number,
431  * to ensure that everyone recognizes this dbase as the most recent
432  * dbase.
433  *
434  * One the dbase has been relabelled, this machine can start handling
435  * requests.  However, the recovery module still has one more task:
436  * propagating the dbase out to everyone who is up in the network.
437  */
438 void *
439 urecovery_Interact(void *dummy)
440 {
441     afs_int32 code;
442     struct ubik_server *bestServer = NULL;
443     struct ubik_server *ts;
444     int dbok, doingRPC, now;
445     afs_int32 lastProbeTime;
446     /* if we're the sync site, the best db version we've found yet */
447     static struct ubik_version bestDBVersion;
448     struct ubik_version tversion;
449     struct timeval tv;
450     int length, tlen, offset, file, nbytes;
451     struct rx_call *rxcall;
452     char tbuffer[1024];
453     struct ubik_stat ubikstat;
454     struct in_addr inAddr;
455     char hoststr[16];
456     char pbuffer[1028];
457     int fd = -1;
458     afs_int32 pass;
459
460     afs_pthread_setname_self("recovery");
461
462     /* otherwise, begin interaction */
463     urecovery_state = 0;
464     lastProbeTime = 0;
465     while (1) {
466         /* Run through this loop every 4 seconds */
467         tv.tv_sec = 4;
468         tv.tv_usec = 0;
469 #ifdef AFS_PTHREAD_ENV
470         select(0, 0, 0, 0, &tv);
471 #else
472         IOMGR_Select(0, 0, 0, 0, &tv);
473 #endif
474
475         ViceLog(5, ("recovery running in state %x\n", urecovery_state));
476
477         /* Every 30 seconds, check all the down servers and mark them
478          * as up if they respond. When a server comes up or found to
479          * not be current, then re-find the the best database and
480          * propogate it.
481          */
482         if ((now = FT_ApproxTime()) > 30 + lastProbeTime) {
483
484             for (ts = ubik_servers, doingRPC = 0; ts; ts = ts->next) {
485                 UBIK_BEACON_LOCK;
486                 if (!ts->up) {
487                     UBIK_BEACON_UNLOCK;
488                     doingRPC = 1;
489                     code = DoProbe(ts);
490                     if (code == 0) {
491                         UBIK_BEACON_LOCK;
492                         ts->up = 1;
493                         UBIK_BEACON_UNLOCK;
494                         DBHOLD(ubik_dbase);
495                         urecovery_state &= ~UBIK_RECFOUNDDB;
496                         DBRELE(ubik_dbase);
497                     }
498                 } else {
499                     UBIK_BEACON_UNLOCK;
500                     DBHOLD(ubik_dbase);
501                     if (!ts->currentDB)
502                         urecovery_state &= ~UBIK_RECFOUNDDB;
503                     DBRELE(ubik_dbase);
504                 }
505             }
506
507             if (doingRPC)
508                 now = FT_ApproxTime();
509             lastProbeTime = now;
510         }
511
512         /* Mark whether we are the sync site */
513         DBHOLD(ubik_dbase);
514         if (!ubeacon_AmSyncSite()) {
515             urecovery_state &= ~UBIK_RECSYNCSITE;
516             DBRELE(ubik_dbase);
517             continue;           /* nothing to do */
518         }
519         urecovery_state |= UBIK_RECSYNCSITE;
520
521         /* If a server has just come up or if we have not found the
522          * most current database, then go find the most current db.
523          */
524         if (!(urecovery_state & UBIK_RECFOUNDDB)) {
525             int okcalls = 0;
526             DBRELE(ubik_dbase);
527             bestServer = (struct ubik_server *)0;
528             bestDBVersion.epoch = 0;
529             bestDBVersion.counter = 0;
530             for (ts = ubik_servers; ts; ts = ts->next) {
531                 UBIK_BEACON_LOCK;
532                 if (!ts->up) {
533                     UBIK_BEACON_UNLOCK;
534                     continue;   /* don't bother with these guys */
535                 }
536                 UBIK_BEACON_UNLOCK;
537                 if (ts->isClone)
538                     continue;
539                 UBIK_ADDR_LOCK;
540                 code = DISK_GetVersion(ts->disk_rxcid, &ts->version);
541                 UBIK_ADDR_UNLOCK;
542                 if (code == 0) {
543                     okcalls++;
544                     /* perhaps this is the best version */
545                     if (vcmp(ts->version, bestDBVersion) > 0) {
546                         /* new best version */
547                         bestDBVersion = ts->version;
548                         bestServer = ts;
549                     }
550                 }
551             }
552
553             DBHOLD(ubik_dbase);
554
555             if (okcalls + 1 >= ubik_quorum) {
556                 /* If we've asked a majority of sites about their db version,
557                  * then we can say with confidence that we've found the best db
558                  * version. If we haven't contacted most sites (because
559                  * GetVersion failed or because we already know the server is
560                  * down), then we don't really know if we know about the best
561                  * db version. So we can only proceed in here if 'okcalls'
562                  * indicates we managed to contact a majority of sites. */
563
564                 /* take into consideration our version. Remember if we,
565                  * the sync site, have the best version. Also note that
566                  * we may need to send the best version out.
567                  */
568                 if (vcmp(ubik_dbase->version, bestDBVersion) >= 0) {
569                     bestDBVersion = ubik_dbase->version;
570                     bestServer = (struct ubik_server *)0;
571                     urecovery_state |= UBIK_RECHAVEDB;
572                 } else {
573                     /* Clear the flag only when we know we have to retrieve
574                      * the db. Because urecovery_AllBetter() looks at it.
575                      */
576                     urecovery_state &= ~UBIK_RECHAVEDB;
577                 }
578                 urecovery_state |= UBIK_RECFOUNDDB;
579                 urecovery_state &= ~UBIK_RECSENTDB;
580             }
581         }
582         if (!(urecovery_state & UBIK_RECFOUNDDB)) {
583             DBRELE(ubik_dbase);
584             continue;           /* not ready */
585         }
586
587         /* If we, the sync site, do not have the best db version, then
588          * go and get it from the server that does.
589          */
590         if ((urecovery_state & UBIK_RECHAVEDB) || !bestServer) {
591             urecovery_state |= UBIK_RECHAVEDB;
592         } else {
593             /* we don't have the best version; we should fetch it. */
594             urecovery_AbortAll(ubik_dbase);
595
596             /* Rx code to do the Bulk fetch */
597             file = 0;
598             offset = 0;
599             UBIK_ADDR_LOCK;
600             rxcall = rx_NewCall(bestServer->disk_rxcid);
601
602             ViceLog(0, ("Ubik: Synchronize database with server %s\n",
603                        afs_inet_ntoa_r(bestServer->addr[0], hoststr)));
604             UBIK_ADDR_UNLOCK;
605
606             code = StartDISK_GetFile(rxcall, file);
607             if (code) {
608                 ViceLog(5, ("StartDiskGetFile failed=%d\n", code));
609                 goto FetchEndCall;
610             }
611             nbytes = rx_Read(rxcall, (char *)&length, sizeof(afs_int32));
612             length = ntohl(length);
613             if (nbytes != sizeof(afs_int32)) {
614                 ViceLog(5, ("Rx-read length error=%d\n", code = BULK_ERROR));
615                 code = EIO;
616                 goto FetchEndCall;
617             }
618
619             /* give invalid label during file transit */
620             UBIK_VERSION_LOCK;
621             tversion.epoch = 0;
622             code = (*ubik_dbase->setlabel) (ubik_dbase, file, &tversion);
623             UBIK_VERSION_UNLOCK;
624             if (code) {
625                 ViceLog(5, ("setlabel io error=%d\n", code));
626                 goto FetchEndCall;
627             }
628             snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.TMP",
629                      ubik_dbase->pathName, (file<0)?"SYS":"",
630                      (file<0)?-file:file);
631             fd = open(pbuffer, O_CREAT | O_RDWR | O_TRUNC, 0600);
632             if (fd < 0) {
633                 code = errno;
634                 goto FetchEndCall;
635             }
636             code = lseek(fd, HDRSIZE, 0);
637             if (code != HDRSIZE) {
638                 close(fd);
639                 goto FetchEndCall;
640             }
641
642             pass = 0;
643             while (length > 0) {
644                 tlen = (length > sizeof(tbuffer) ? sizeof(tbuffer) : length);
645 #ifndef AFS_PTHREAD_ENV
646                 if (pass % 4 == 0)
647                     IOMGR_Poll();
648 #endif
649                 nbytes = rx_Read(rxcall, tbuffer, tlen);
650                 if (nbytes != tlen) {
651                     ViceLog(5, ("Rx-read bulk error=%d\n", code = BULK_ERROR));
652                     code = EIO;
653                     close(fd);
654                     goto FetchEndCall;
655                 }
656                 nbytes = write(fd, tbuffer, tlen);
657                 pass++;
658                 if (nbytes != tlen) {
659                     code = UIOERROR;
660                     close(fd);
661                     goto FetchEndCall;
662                 }
663                 offset += tlen;
664                 length -= tlen;
665             }
666             code = close(fd);
667             if (code)
668                 goto FetchEndCall;
669             code = EndDISK_GetFile(rxcall, &tversion);
670           FetchEndCall:
671             code = rx_EndCall(rxcall, code);
672             if (!code) {
673                 /* we got a new file, set up its header */
674                 urecovery_state |= UBIK_RECHAVEDB;
675                 UBIK_VERSION_LOCK;
676                 memcpy(&ubik_dbase->version, &tversion,
677                        sizeof(struct ubik_version));
678                 snprintf(tbuffer, sizeof(tbuffer), "%s.DB%s%d",
679                          ubik_dbase->pathName, (file<0)?"SYS":"",
680                          (file<0)?-file:file);
681 #ifdef AFS_NT40_ENV
682                 snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.OLD",
683                          ubik_dbase->pathName, (file<0)?"SYS":"",
684                          (file<0)?-file:file);
685                 code = unlink(pbuffer);
686                 if (!code)
687                     code = rename(tbuffer, pbuffer);
688                 snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.TMP",
689                          ubik_dbase->pathName, (file<0)?"SYS":"",
690                          (file<0)?-file:file);
691 #endif
692                 if (!code)
693                     code = rename(pbuffer, tbuffer);
694                 if (!code) {
695                     (*ubik_dbase->open) (ubik_dbase, file);
696                     /* after data is good, sync disk with correct label */
697                     code =
698                         (*ubik_dbase->setlabel) (ubik_dbase, 0,
699                                                  &ubik_dbase->version);
700                 }
701                 UBIK_VERSION_UNLOCK;
702 #ifdef AFS_NT40_ENV
703                 snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.OLD",
704                          ubik_dbase->pathName, (file<0)?"SYS":"",
705                          (file<0)?-file:file);
706                 unlink(pbuffer);
707 #endif
708             }
709             if (code) {
710                 unlink(pbuffer);
711                 /*
712                  * We will effectively invalidate the old data forever now.
713                  * Unclear if we *should* but we do.
714                  */
715                 UBIK_VERSION_LOCK;
716                 ubik_dbase->version.epoch = 0;
717                 ubik_dbase->version.counter = 0;
718                 UBIK_VERSION_UNLOCK;
719                 ViceLog(0, ("Ubik: Synchronize database failed (error = %d)\n",
720                            code));
721             } else {
722                 ViceLog(0, ("Ubik: Synchronize database completed\n"));
723                 urecovery_state |= UBIK_RECHAVEDB;
724             }
725             udisk_Invalidate(ubik_dbase, 0);    /* data has changed */
726 #ifdef AFS_PTHREAD_ENV
727             opr_cv_broadcast(&ubik_dbase->version_cond);
728 #else
729             LWP_NoYieldSignal(&ubik_dbase->version);
730 #endif
731         }
732         if (!(urecovery_state & UBIK_RECHAVEDB)) {
733             DBRELE(ubik_dbase);
734             continue;           /* not ready */
735         }
736
737         /* If the database was newly initialized, then when we establish quorum, write
738          * a new label. This allows urecovery_AllBetter() to allow access for reads.
739          * Setting it to 2 also allows another site to come along with a newer
740          * database and overwrite this one.
741          */
742         if (ubik_dbase->version.epoch == 1) {
743             urecovery_AbortAll(ubik_dbase);
744             UBIK_VERSION_LOCK;
745             ubik_dbase->version.epoch = 2;
746             ubik_dbase->version.counter = 1;
747             code =
748                 (*ubik_dbase->setlabel) (ubik_dbase, 0, &ubik_dbase->version);
749             UBIK_VERSION_UNLOCK;
750             udisk_Invalidate(ubik_dbase, 0);    /* data may have changed */
751 #ifdef AFS_PTHREAD_ENV
752             opr_cv_broadcast(&ubik_dbase->version_cond);
753 #else
754             LWP_NoYieldSignal(&ubik_dbase->version);
755 #endif
756         }
757
758         /* Check the other sites and send the database to them if they
759          * do not have the current db.
760          */
761         if (!(urecovery_state & UBIK_RECSENTDB)) {
762             /* now propagate out new version to everyone else */
763             dbok = 1;           /* start off assuming they all worked */
764
765             /*
766              * Check if a write transaction is in progress. We can't send the
767              * db when a write is in progress here because the db would be
768              * obsolete as soon as it goes there. Also, ops after the begin
769              * trans would reach the recepient and wouldn't find a transaction
770              * pending there.  Frankly, I don't think it's possible to get past
771              * the write-lock above if there is a write transaction in progress,
772              * but then, it won't hurt to check, will it?
773              */
774             if (ubik_dbase->flags & DBWRITING) {
775                 struct timeval tv;
776                 int safety = 0;
777                 long cur_usec = 50000;
778                 while ((ubik_dbase->flags & DBWRITING) && (safety < 500)) {
779                     DBRELE(ubik_dbase);
780                     /* sleep for a little while */
781                     tv.tv_sec = 0;
782                     tv.tv_usec = cur_usec;
783 #ifdef AFS_PTHREAD_ENV
784                     select(0, 0, 0, 0, &tv);
785 #else
786                     IOMGR_Select(0, 0, 0, 0, &tv);
787 #endif
788                     cur_usec += 10000;
789                     safety++;
790                     DBHOLD(ubik_dbase);
791                 }
792             }
793
794             for (ts = ubik_servers; ts; ts = ts->next) {
795                 UBIK_ADDR_LOCK;
796                 inAddr.s_addr = ts->addr[0];
797                 UBIK_ADDR_UNLOCK;
798                 UBIK_BEACON_LOCK;
799                 if (!ts->up) {
800                     UBIK_BEACON_UNLOCK;
801                     ViceLog(5, ("recovery cannot send version to %s\n",
802                                 afs_inet_ntoa_r(inAddr.s_addr, hoststr)));
803                     dbok = 0;
804                     continue;
805                 }
806                 UBIK_BEACON_UNLOCK;
807                 ViceLog(5, ("recovery sending version to %s\n",
808                             afs_inet_ntoa_r(inAddr.s_addr, hoststr)));
809                 if (vcmp(ts->version, ubik_dbase->version) != 0) {
810                     ViceLog(5, ("recovery stating local database\n"));
811
812                     /* Rx code to do the Bulk Store */
813                     code = (*ubik_dbase->stat) (ubik_dbase, 0, &ubikstat);
814                     if (!code) {
815                         length = ubikstat.size;
816                         file = offset = 0;
817                         UBIK_ADDR_LOCK;
818                         rxcall = rx_NewCall(ts->disk_rxcid);
819                         UBIK_ADDR_UNLOCK;
820                         code =
821                             StartDISK_SendFile(rxcall, file, length,
822                                                &ubik_dbase->version);
823                         if (code) {
824                             ViceLog(5, ("StartDiskSendFile failed=%d\n",
825                                         code));
826                             goto StoreEndCall;
827                         }
828                         while (length > 0) {
829                             tlen =
830                                 (length >
831                                  sizeof(tbuffer) ? sizeof(tbuffer) : length);
832                             nbytes =
833                                 (*ubik_dbase->read) (ubik_dbase, file,
834                                                      tbuffer, offset, tlen);
835                             if (nbytes != tlen) {
836                                 ViceLog(5, ("Local disk read error=%d\n",
837                                             code = UIOERROR));
838                                 goto StoreEndCall;
839                             }
840                             nbytes = rx_Write(rxcall, tbuffer, tlen);
841                             if (nbytes != tlen) {
842                                 ViceLog(5, ("Rx-write bulk error=%d\n", code =
843                                             BULK_ERROR));
844                                 goto StoreEndCall;
845                             }
846                             offset += tlen;
847                             length -= tlen;
848                         }
849                         code = EndDISK_SendFile(rxcall);
850                       StoreEndCall:
851                         code = rx_EndCall(rxcall, code);
852                     }
853                     if (code == 0) {
854                         /* we set a new file, process its header */
855                         ts->version = ubik_dbase->version;
856                         ts->currentDB = 1;
857                     } else
858                         dbok = 0;
859                 } else {
860                     /* mark file up to date */
861                     ts->currentDB = 1;
862                 }
863             }
864             if (dbok)
865                 urecovery_state |= UBIK_RECSENTDB;
866         }
867         DBRELE(ubik_dbase);
868     }
869     AFS_UNREACHED(return(NULL));
870 }
871
872 /*!
873  * \brief send a Probe to all the network address of this server
874  *
875  * \return 0 if success, else return 1
876  */
877 int
878 DoProbe(struct ubik_server *server)
879 {
880     struct rx_connection *conns[UBIK_MAX_INTERFACE_ADDR];
881     struct rx_connection *connSuccess = 0;
882     int i, nconns, success_i = -1;
883     afs_uint32 addr;
884     char buffer[32];
885     char hoststr[16];
886
887     UBIK_ADDR_LOCK;
888     for (i = 0; (i < UBIK_MAX_INTERFACE_ADDR) && (addr = server->addr[i]);
889          i++) {
890         conns[i] =
891             rx_NewConnection(addr, ubik_callPortal, DISK_SERVICE_ID,
892                              addr_globals.ubikSecClass, addr_globals.ubikSecIndex);
893
894         /* user requirement to use only the primary interface */
895         if (ubikPrimaryAddrOnly) {
896             i = 1;
897             break;
898         }
899     }
900     UBIK_ADDR_UNLOCK;
901     nconns = i;
902     opr_Assert(nconns);                 /* at least one interface address for this server */
903
904     multi_Rx(conns, nconns) {
905         multi_DISK_Probe();
906         if (!multi_error) {     /* first success */
907             success_i = multi_i;
908
909             multi_Abort;
910         }
911     } multi_End_Ignore;
912
913     if (success_i >= 0) {
914         UBIK_ADDR_LOCK;
915         addr = server->addr[success_i]; /* successful interface addr */
916
917         if (server->disk_rxcid) /* destroy existing conn */
918             rx_DestroyConnection(server->disk_rxcid);
919         if (server->vote_rxcid)
920             rx_DestroyConnection(server->vote_rxcid);
921
922         /* make new connections */
923         server->disk_rxcid = conns[success_i];
924         server->vote_rxcid = rx_NewConnection(addr, ubik_callPortal,
925                                               VOTE_SERVICE_ID, addr_globals.ubikSecClass,
926                                               addr_globals.ubikSecIndex);
927
928         connSuccess = conns[success_i];
929         strcpy(buffer, afs_inet_ntoa_r(server->addr[0], hoststr));
930
931         ViceLog(0, ("ubik:server %s is back up: will be contacted through %s\n",
932              buffer, afs_inet_ntoa_r(addr, hoststr)));
933         UBIK_ADDR_UNLOCK;
934     }
935
936     /* Destroy all connections except the one on which we succeeded */
937     for (i = 0; i < nconns; i++)
938         if (conns[i] != connSuccess)
939             rx_DestroyConnection(conns[i]);
940
941     if (!connSuccess)
942         ViceLog(5, ("ubik:server %s still down\n",
943                     afs_inet_ntoa_r(server->addr[0], hoststr)));
944
945     if (connSuccess)
946         return 0;               /* success */
947     else
948         return 1;               /* failure */
949 }