ubik: remove unused UBIK_PAUSE code
[openafs.git] / src / ubik / recovery.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  *
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  */
9
10 #include <afsconfig.h>
11 #include <afs/param.h>
12
13 #include <roken.h>
14
15 #include <sys/types.h>
16 #include <string.h>
17 #include <stdarg.h>
18 #include <errno.h>
19
20 #ifdef AFS_NT40_ENV
21 #include <winsock2.h>
22 #include <time.h>
23 #include <fcntl.h>
24 #else
25 #include <sys/file.h>
26 #include <netinet/in.h>
27 #include <sys/time.h>
28 #endif
29
30 #include <lock.h>
31 #include <rx/xdr.h>
32 #include <rx/rx.h>
33 #include <afs/afsutil.h>
34 #include <afs/cellconfig.h>
35
36 #define UBIK_INTERNALS
37 #include "ubik.h"
38 #include "ubik_int.h"
39
40 /*! \file
41  * This module is responsible for determining when the system has
42  * recovered to the point that it can handle new transactions.  It
43  * replays logs, polls to determine the current dbase after a crash,
44  * and distributes the new database to the others.
45  *
46  * The sync site associates a version number with each database.  It
47  * broadcasts the version associated with its current dbase in every
48  * one of its beacon messages.  When the sync site send a dbase to a
49  * server, it also sends the db's version.  A non-sync site server can
50  * tell if it has the right dbase version by simply comparing the
51  * version from the beacon message \p uvote_dbVersion with the version
52  * associated with the database \p ubik_dbase->version.  The sync site
53  * itself simply has one counter to keep track of all of this (again
54  * \p ubik_dbase->version).
55  *
56  * sync site: routine called when the sync site loses its quorum; this
57  * procedure is called "up" from the beacon package.  It resyncs the
58  * dbase and nudges the recovery daemon to try to propagate out the
59  * changes.  It also resets the recovery daemon's state, since
60  * recovery must potentially find a new dbase to propagate out.  This
61  * routine should not do anything with variables used by non-sync site
62  * servers.
63  */
64
65 /*!
66  * if this flag is set, then ubik will use only the primary address
67  * (the address specified in the CellServDB) to contact other
68  * ubik servers. Ubik recovery will not try opening connections
69  * to the alternate interface addresses.
70  */
71 int ubikPrimaryAddrOnly;
72
73 int
74 urecovery_ResetState(void)
75 {
76     urecovery_state = 0;
77 #if !defined(AFS_PTHREAD_ENV)
78     /*  No corresponding LWP_WaitProcess found anywhere for this -- klm */
79     LWP_NoYieldSignal(&urecovery_state);
80 #endif
81     return 0;
82 }
83
84 /*!
85  * \brief sync site
86  *
87  * routine called when a non-sync site server goes down; restarts recovery
88  * process to send missing server the new db when it comes back up for
89  * non-sync site servers.
90  *
91  * \note This routine should not do anything with variables used by non-sync site servers.
92  */
93 int
94 urecovery_LostServer(struct ubik_server *ts)
95 {
96     ubeacon_ReinitServer(ts);
97 #if !defined(AFS_PTHREAD_ENV)
98     /*  No corresponding LWP_WaitProcess found anywhere for this -- klm */
99     LWP_NoYieldSignal(&urecovery_state);
100 #endif
101     return 0;
102 }
103
104 /*!
105  * return true iff we have a current database (called by both sync
106  * sites and non-sync sites) How do we determine this?  If we're the
107  * sync site, we wait until recovery has finished fetching and
108  * re-labelling its dbase (it may still be trying to propagate it out
109  * to everyone else; that's THEIR problem).  If we're not the sync
110  * site, then we must have a dbase labelled with the right version,
111  * and we must have a currently-good sync site.
112  */
113 int
114 urecovery_AllBetter(struct ubik_dbase *adbase, int areadAny)
115 {
116     afs_int32 rcode;
117
118     ubik_dprint_25("allbetter checking\n");
119     rcode = 0;
120
121
122     if (areadAny) {
123         if (ubik_dbase->version.epoch > 1)
124             rcode = 1;          /* Happy with any good version of database */
125     }
126
127     /* Check if we're sync site and we've got the right data */
128     else if (ubeacon_AmSyncSite() && (urecovery_state & UBIK_RECHAVEDB)) {
129         rcode = 1;
130     }
131
132     /* next, check if we're aux site, and we've ever been sent the
133      * right data (note that if a dbase update fails, we won't think
134      * that the sync site is still the sync site, 'cause it won't talk
135      * to us until a timeout period has gone by.  When we recover, we
136      * leave this clear until we get a new dbase */
137     else if ((uvote_GetSyncSite() && (vcmp(ubik_dbVersion, ubik_dbase->version) == 0))) {       /* && order is important */
138         rcode = 1;
139     }
140
141     ubik_dprint_25("allbetter: returning %d\n", rcode);
142     return rcode;
143 }
144
145 /*!
146  * \brief abort all transactions on this database
147  */
148 int
149 urecovery_AbortAll(struct ubik_dbase *adbase)
150 {
151     struct ubik_trans *tt;
152     for (tt = adbase->activeTrans; tt; tt = tt->next) {
153         udisk_abort(tt);
154     }
155     return 0;
156 }
157
158 /*!
159  * \brief this routine aborts the current remote transaction, if any, if the tid is wrong
160  */
161 int
162 urecovery_CheckTid(struct ubik_tid *atid, int abortalways)
163 {
164     if (ubik_currentTrans) {
165         /* there is remote write trans, see if we match, see if this
166          * is a new transaction */
167         if (atid->epoch != ubik_currentTrans->tid.epoch
168             || atid->counter > ubik_currentTrans->tid.counter || abortalways) {
169             /* don't match, abort it */
170             /* If the thread is not waiting for lock - ok to end it */
171             if (ubik_currentTrans->locktype != LOCKWAIT) {
172                 udisk_end(ubik_currentTrans);
173             }
174             ubik_currentTrans = (struct ubik_trans *)0;
175         }
176     }
177     return 0;
178 }
179
180 /*!
181  * \brief replay logs
182  *
183  * log format is defined here, and implicitly in disk.c
184  *
185  * 4 byte opcode, followed by parameters, each 4 bytes long.  All integers
186  * are in logged in network standard byte order, in case we want to move logs
187  * from machine-to-machine someday.
188  *
189  * Begin transaction: opcode \n
190  * Commit transaction: opcode, version (8 bytes) \n
191  * Truncate file: opcode, file number, length \n
192  * Abort transaction: opcode \n
193  * Write data: opcode, file, position, length, <length> data bytes \n
194  *
195  * A very simple routine, it just replays the log.  Note that this is a new-value only log, which
196  * implies that no uncommitted data is written to the dbase: one writes data to the log, including
197  * the commit record, then we allow data to be written through to the dbase.  In our particular
198  * implementation, once a transaction is done, we write out the pages to the database, so that
199  * our buffer package doesn't have to know about stable and uncommitted data in the memory buffers:
200  * any changed data while there is an uncommitted write transaction can be zapped during an
201  * abort and the remaining dbase on the disk is exactly the right dbase, without having to read
202  * the log.
203  */
204 static int
205 ReplayLog(struct ubik_dbase *adbase)
206 {
207     afs_int32 opcode;
208     afs_int32 code, tpos;
209     int logIsGood;
210     afs_int32 len, thisSize, tfile, filePos;
211     afs_int32 buffer[4];
212     afs_int32 syncFile = -1;
213     afs_int32 data[1024];
214
215     /* read the lock twice, once to see whether we have a transaction to deal
216      * with that committed, (theoretically, we should support more than one
217      * trans in the log at once, but not yet), and once replaying the
218      * transactions.  */
219     tpos = 0;
220     logIsGood = 0;
221     /* for now, assume that all ops in log pertain to one transaction; see if there's a commit */
222     while (1) {
223         code =
224             (*adbase->read) (adbase, LOGFILE, (char *)&opcode, tpos,
225                              sizeof(afs_int32));
226         if (code != sizeof(afs_int32))
227             break;
228         opcode = ntohl(opcode);
229         if (opcode == LOGNEW) {
230             /* handle begin trans */
231             tpos += sizeof(afs_int32);
232         } else if (opcode == LOGABORT)
233             break;
234         else if (opcode == LOGEND) {
235             logIsGood = 1;
236             break;
237         } else if (opcode == LOGTRUNCATE) {
238             tpos += 4;
239             code =
240                 (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
241                                  2 * sizeof(afs_int32));
242             if (code != 2 * sizeof(afs_int32))
243                 break;          /* premature eof or io error */
244             tpos += 2 * sizeof(afs_int32);
245         } else if (opcode == LOGDATA) {
246             tpos += 4;
247             code =
248                 (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
249                                  3 * sizeof(afs_int32));
250             if (code != 3 * sizeof(afs_int32))
251                 break;
252             /* otherwise, skip over the data bytes, too */
253             tpos += ntohl(buffer[2]) + 3 * sizeof(afs_int32);
254         } else {
255             ubik_print("corrupt log opcode (%d) at position %d\n", opcode,
256                        tpos);
257             break;              /* corrupt log! */
258         }
259     }
260     if (logIsGood) {
261         /* actually do the replay; log should go all the way through the commit record, since
262          * we just read it above. */
263         tpos = 0;
264         logIsGood = 0;
265         syncFile = -1;
266         while (1) {
267             code =
268                 (*adbase->read) (adbase, LOGFILE, (char *)&opcode, tpos,
269                                  sizeof(afs_int32));
270             if (code != sizeof(afs_int32))
271                 break;
272             opcode = ntohl(opcode);
273             if (opcode == LOGNEW) {
274                 /* handle begin trans */
275                 tpos += sizeof(afs_int32);
276             } else if (opcode == LOGABORT)
277                 panic("log abort\n");
278             else if (opcode == LOGEND) {
279                 struct ubik_version version;
280                 tpos += 4;
281                 code =
282                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
283                                      2 * sizeof(afs_int32));
284                 if (code != 2 * sizeof(afs_int32))
285                     return UBADLOG;
286                 version.epoch = ntohl(buffer[0]);
287                 version.counter = ntohl(buffer[1]);
288                 code = (*adbase->setlabel) (adbase, 0, &version);
289                 if (code)
290                     return code;
291                 ubik_print("Successfully replayed log for interrupted "
292                            "transaction; db version is now %ld.%ld\n",
293                            (long) version.epoch, (long) version.counter);
294                 logIsGood = 1;
295                 break;          /* all done now */
296             } else if (opcode == LOGTRUNCATE) {
297                 tpos += 4;
298                 code =
299                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
300                                      2 * sizeof(afs_int32));
301                 if (code != 2 * sizeof(afs_int32))
302                     break;      /* premature eof or io error */
303                 tpos += 2 * sizeof(afs_int32);
304                 code =
305                     (*adbase->truncate) (adbase, ntohl(buffer[0]),
306                                          ntohl(buffer[1]));
307                 if (code)
308                     return code;
309             } else if (opcode == LOGDATA) {
310                 tpos += 4;
311                 code =
312                     (*adbase->read) (adbase, LOGFILE, (char *)buffer, tpos,
313                                      3 * sizeof(afs_int32));
314                 if (code != 3 * sizeof(afs_int32))
315                     break;
316                 tpos += 3 * sizeof(afs_int32);
317                 /* otherwise, skip over the data bytes, too */
318                 len = ntohl(buffer[2]); /* total number of bytes to copy */
319                 filePos = ntohl(buffer[1]);
320                 tfile = ntohl(buffer[0]);
321                 /* try to minimize file syncs */
322                 if (syncFile != tfile) {
323                     if (syncFile >= 0)
324                         code = (*adbase->sync) (adbase, syncFile);
325                     else
326                         code = 0;
327                     syncFile = tfile;
328                     if (code)
329                         return code;
330                 }
331                 while (len > 0) {
332                     thisSize = (len > sizeof(data) ? sizeof(data) : len);
333                     /* copy sizeof(data) buffer bytes at a time */
334                     code =
335                         (*adbase->read) (adbase, LOGFILE, (char *)data, tpos,
336                                          thisSize);
337                     if (code != thisSize)
338                         return UBADLOG;
339                     code =
340                         (*adbase->write) (adbase, tfile, (char *)data, filePos,
341                                           thisSize);
342                     if (code != thisSize)
343                         return UBADLOG;
344                     filePos += thisSize;
345                     tpos += thisSize;
346                     len -= thisSize;
347                 }
348             } else {
349                 ubik_print("corrupt log opcode (%d) at position %d\n",
350                            opcode, tpos);
351                 break;          /* corrupt log! */
352             }
353         }
354         if (logIsGood) {
355             if (syncFile >= 0)
356                 code = (*adbase->sync) (adbase, syncFile);
357             if (code)
358                 return code;
359         } else {
360             ubik_print("Log read error on pass 2\n");
361             return UBADLOG;
362         }
363     }
364
365     /* now truncate the log, we're done with it */
366     code = (*adbase->truncate) (adbase, LOGFILE, 0);
367     return code;
368 }
369
370 /*! \brief
371  * Called at initialization to figure out version of the dbase we really have.
372  *
373  * This routine is called after replaying the log; it reads the restored labels.
374  */
375 static int
376 InitializeDB(struct ubik_dbase *adbase)
377 {
378     afs_int32 code;
379
380     code = (*adbase->getlabel) (adbase, 0, &adbase->version);
381     if (code) {
382         /* try setting the label to a new value */
383         adbase->version.epoch = 1;      /* value for newly-initialized db */
384         adbase->version.counter = 1;
385         code = (*adbase->setlabel) (adbase, 0, &adbase->version);
386         if (code) {
387             /* failed, try to set it back */
388             adbase->version.epoch = 0;
389             adbase->version.counter = 0;
390             (*adbase->setlabel) (adbase, 0, &adbase->version);
391         }
392 #ifdef AFS_PTHREAD_ENV
393         CV_BROADCAST(&adbase->version_cond);
394 #else
395         LWP_NoYieldSignal(&adbase->version);
396 #endif
397     }
398     return 0;
399 }
400
401 /*!
402  * \brief initialize the local ubik_dbase
403  *
404  * We replay the logs and then read the resulting file to figure out what version we've really got.
405  */
406 int
407 urecovery_Initialize(struct ubik_dbase *adbase)
408 {
409     afs_int32 code;
410
411     code = ReplayLog(adbase);
412     if (code)
413         return code;
414     code = InitializeDB(adbase);
415     return code;
416 }
417
418 /*!
419  * \brief Main interaction loop for the recovery manager
420  *
421  * The recovery light-weight process only runs when you're the
422  * synchronization site.  It performs the following tasks, if and only
423  * if the prerequisite tasks have been performed successfully (it
424  * keeps track of which ones have been performed in its bit map,
425  * \p urecovery_state).
426  *
427  * First, it is responsible for probing that all servers are up.  This
428  * is the only operation that must be performed even if this is not
429  * yet the sync site, since otherwise this site may not notice that
430  * enough other machines are running to even elect this guy to be the
431  * sync site.
432  *
433  * After that, the recovery process does nothing until the beacon and
434  * voting modules manage to get this site elected sync site.
435  *
436  * After becoming sync site, recovery first attempts to find the best
437  * database available in the network (it must do this in order to
438  * ensure finding the latest committed data).  After finding the right
439  * database, it must fetch this dbase to the sync site.
440  *
441  * After fetching the dbase, it relabels it with a new version number,
442  * to ensure that everyone recognizes this dbase as the most recent
443  * dbase.
444  *
445  * One the dbase has been relabelled, this machine can start handling
446  * requests.  However, the recovery module still has one more task:
447  * propagating the dbase out to everyone who is up in the network.
448  */
449 void *
450 urecovery_Interact(void *dummy)
451 {
452     afs_int32 code, tcode;
453     struct ubik_server *bestServer = NULL;
454     struct ubik_server *ts;
455     int dbok, doingRPC, now;
456     afs_int32 lastProbeTime;
457     /* if we're the sync site, the best db version we've found yet */
458     static struct ubik_version bestDBVersion;
459     struct ubik_version tversion;
460     struct timeval tv;
461     int length, tlen, offset, file, nbytes;
462     struct rx_call *rxcall;
463     char tbuffer[1024];
464     struct ubik_stat ubikstat;
465     struct in_addr inAddr;
466     char hoststr[16];
467     char pbuffer[1028];
468     int fd = -1;
469     afs_int32 pass;
470
471     /* otherwise, begin interaction */
472     urecovery_state = 0;
473     lastProbeTime = 0;
474     while (1) {
475         /* Run through this loop every 4 seconds */
476         tv.tv_sec = 4;
477         tv.tv_usec = 0;
478 #ifdef AFS_PTHREAD_ENV
479         select(0, 0, 0, 0, &tv);
480 #else
481         IOMGR_Select(0, 0, 0, 0, &tv);
482 #endif
483
484         ubik_dprint("recovery running in state %x\n", urecovery_state);
485
486         /* Every 30 seconds, check all the down servers and mark them
487          * as up if they respond. When a server comes up or found to
488          * not be current, then re-find the the best database and
489          * propogate it.
490          */
491         if ((now = FT_ApproxTime()) > 30 + lastProbeTime) {
492
493 #ifdef AFS_PTHREAD_ENV
494             DBHOLD(ubik_dbase);
495 #endif
496
497             for (ts = ubik_servers, doingRPC = 0; ts; ts = ts->next) {
498                 if (!ts->up) {
499                     doingRPC = 1;
500                     code = DoProbe(ts);
501                     if (code == 0) {
502                         ts->up = 1;
503                         urecovery_state &= ~UBIK_RECFOUNDDB;
504                     }
505                 } else if (!ts->currentDB) {
506                     urecovery_state &= ~UBIK_RECFOUNDDB;
507                 }
508             }
509
510 #ifdef AFS_PTHREAD_ENV
511             DBRELE(ubik_dbase);
512 #endif
513
514             if (doingRPC)
515                 now = FT_ApproxTime();
516             lastProbeTime = now;
517         }
518
519         /* Mark whether we are the sync site */
520         if (!ubeacon_AmSyncSite()) {
521             urecovery_state &= ~UBIK_RECSYNCSITE;
522             continue;           /* nothing to do */
523         }
524         urecovery_state |= UBIK_RECSYNCSITE;
525
526         /* If a server has just come up or if we have not found the
527          * most current database, then go find the most current db.
528          */
529         if (!(urecovery_state & UBIK_RECFOUNDDB)) {
530             bestServer = (struct ubik_server *)0;
531             bestDBVersion.epoch = 0;
532             bestDBVersion.counter = 0;
533             for (ts = ubik_servers; ts; ts = ts->next) {
534                 if (!ts->up)
535                     continue;   /* don't bother with these guys */
536                 if (ts->isClone)
537                     continue;
538                 code = DISK_GetVersion(ts->disk_rxcid, &ts->version);
539                 if (code == 0) {
540                     /* perhaps this is the best version */
541                     if (vcmp(ts->version, bestDBVersion) > 0) {
542                         /* new best version */
543                         bestDBVersion = ts->version;
544                         bestServer = ts;
545                     }
546                 }
547             }
548             /* take into consideration our version. Remember if we,
549              * the sync site, have the best version. Also note that
550              * we may need to send the best version out.
551              */
552             if (vcmp(ubik_dbase->version, bestDBVersion) >= 0) {
553                 bestDBVersion = ubik_dbase->version;
554                 bestServer = (struct ubik_server *)0;
555                 urecovery_state |= UBIK_RECHAVEDB;
556             } else {
557                 /* Clear the flag only when we know we have to retrieve
558                  * the db. Because urecovery_AllBetter() looks at it.
559                  */
560                 urecovery_state &= ~UBIK_RECHAVEDB;
561             }
562             urecovery_state |= UBIK_RECFOUNDDB;
563             urecovery_state &= ~UBIK_RECSENTDB;
564         }
565         if (!(urecovery_state & UBIK_RECFOUNDDB))
566             continue;           /* not ready */
567
568         /* If we, the sync site, do not have the best db version, then
569          * go and get it from the server that does.
570          */
571         if ((urecovery_state & UBIK_RECHAVEDB) || !bestServer) {
572             urecovery_state |= UBIK_RECHAVEDB;
573         } else {
574             /* we don't have the best version; we should fetch it. */
575             DBHOLD(ubik_dbase);
576             urecovery_AbortAll(ubik_dbase);
577
578             /* Rx code to do the Bulk fetch */
579             file = 0;
580             offset = 0;
581             rxcall = rx_NewCall(bestServer->disk_rxcid);
582
583             ubik_print("Ubik: Synchronize database with server %s\n",
584                        afs_inet_ntoa_r(bestServer->addr[0], hoststr));
585
586             code = StartDISK_GetFile(rxcall, file);
587             if (code) {
588                 ubik_dprint("StartDiskGetFile failed=%d\n", code);
589                 goto FetchEndCall;
590             }
591             nbytes = rx_Read(rxcall, (char *)&length, sizeof(afs_int32));
592             length = ntohl(length);
593             if (nbytes != sizeof(afs_int32)) {
594                 ubik_dprint("Rx-read length error=%d\n", code = BULK_ERROR);
595                 code = EIO;
596                 goto FetchEndCall;
597             }
598
599             /* give invalid label during file transit */
600             tversion.epoch = 0;
601             code = (*ubik_dbase->setlabel) (ubik_dbase, file, &tversion);
602             if (code) {
603                 ubik_dprint("setlabel io error=%d\n", code);
604                 goto FetchEndCall;
605             }
606             afs_snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.TMP", ubik_dbase->pathName, (file<0)?"SYS":"", (file<0)?-file:file);
607             fd = open(pbuffer, O_CREAT | O_RDWR | O_TRUNC, 0600);
608             if (fd < 0) {
609                 code = errno;
610                 goto FetchEndCall;
611             }
612             code = lseek(fd, HDRSIZE, 0);
613             if (code != HDRSIZE) {
614                 close(fd);
615                 goto FetchEndCall;
616             }
617
618             pass = 0;
619             while (length > 0) {
620                 tlen = (length > sizeof(tbuffer) ? sizeof(tbuffer) : length);
621 #ifndef AFS_PTHREAD_ENV
622                 if (pass % 4 == 0)
623                     IOMGR_Poll();
624 #endif
625                 nbytes = rx_Read(rxcall, tbuffer, tlen);
626                 if (nbytes != tlen) {
627                     ubik_dprint("Rx-read bulk error=%d\n", code = BULK_ERROR);
628                     code = EIO;
629                     close(fd);
630                     goto FetchEndCall;
631                 }
632                 nbytes = write(fd, tbuffer, tlen);
633                 pass++;
634                 if (nbytes != tlen) {
635                     code = UIOERROR;
636                     close(fd);
637                     goto FetchEndCall;
638                 }
639                 offset += tlen;
640                 length -= tlen;
641             }
642             code = close(fd);
643             if (code)
644                 goto FetchEndCall;
645             code = EndDISK_GetFile(rxcall, &tversion);
646           FetchEndCall:
647             tcode = rx_EndCall(rxcall, code);
648             if (!code)
649                 code = tcode;
650             if (!code) {
651                 /* we got a new file, set up its header */
652                 urecovery_state |= UBIK_RECHAVEDB;
653                 memcpy(&ubik_dbase->version, &tversion,
654                        sizeof(struct ubik_version));
655                 afs_snprintf(tbuffer, sizeof(tbuffer), "%s.DB%s%d", ubik_dbase->pathName, (file<0)?"SYS":"", (file<0)?-file:file);
656 #ifdef AFS_NT40_ENV
657                 afs_snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.OLD", ubik_dbase->pathName, (file<0)?"SYS":"", (file<0)?-file:file);
658                 code = unlink(pbuffer);
659                 if (!code)
660                     code = rename(tbuffer, pbuffer);
661                 afs_snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.TMP", ubik_dbase->pathName, (file<0)?"SYS":"", (file<0)?-file:file);
662 #endif
663                 if (!code)
664                     code = rename(pbuffer, tbuffer);
665                 if (!code) {
666                     (*ubik_dbase->open) (ubik_dbase, file);
667                     /* after data is good, sync disk with correct label */
668                     code =
669                         (*ubik_dbase->setlabel) (ubik_dbase, 0,
670                                                  &ubik_dbase->version);
671                 }
672 #ifdef AFS_NT40_ENV
673                 afs_snprintf(pbuffer, sizeof(pbuffer), "%s.DB%s%d.OLD", ubik_dbase->pathName, (file<0)?"SYS":"", (file<0)?-file:file);
674                 unlink(pbuffer);
675 #endif
676             }
677             if (code) {
678                 unlink(pbuffer);
679                 /*
680                  * We will effectively invalidate the old data forever now.
681                  * Unclear if we *should* but we do.
682                  */
683                 ubik_dbase->version.epoch = 0;
684                 ubik_dbase->version.counter = 0;
685                 ubik_print("Ubik: Synchronize database failed (error = %d)\n",
686                            code);
687             } else {
688                 ubik_print("Ubik: Synchronize database completed\n");
689                 urecovery_state |= UBIK_RECHAVEDB;
690             }
691             udisk_Invalidate(ubik_dbase, 0);    /* data has changed */
692 #ifdef AFS_PTHREAD_ENV
693             CV_BROADCAST(&ubik_dbase->version_cond);
694 #else
695             LWP_NoYieldSignal(&ubik_dbase->version);
696 #endif
697             DBRELE(ubik_dbase);
698         }
699         if (!(urecovery_state & UBIK_RECHAVEDB))
700             continue;           /* not ready */
701
702         /* If the database was newly initialized, then when we establish quorum, write
703          * a new label. This allows urecovery_AllBetter() to allow access for reads.
704          * Setting it to 2 also allows another site to come along with a newer
705          * database and overwrite this one.
706          */
707         if (ubik_dbase->version.epoch == 1) {
708             DBHOLD(ubik_dbase);
709             urecovery_AbortAll(ubik_dbase);
710             ubik_epochTime = 2;
711             ubik_dbase->version.epoch = ubik_epochTime;
712             ubik_dbase->version.counter = 1;
713             code =
714                 (*ubik_dbase->setlabel) (ubik_dbase, 0, &ubik_dbase->version);
715             udisk_Invalidate(ubik_dbase, 0);    /* data may have changed */
716 #ifdef AFS_PTHREAD_ENV
717             CV_BROADCAST(&ubik_dbase->version_cond);
718 #else
719             LWP_NoYieldSignal(&ubik_dbase->version);
720 #endif
721             DBRELE(ubik_dbase);
722         }
723
724         /* Check the other sites and send the database to them if they
725          * do not have the current db.
726          */
727         if (!(urecovery_state & UBIK_RECSENTDB)) {
728             /* now propagate out new version to everyone else */
729             dbok = 1;           /* start off assuming they all worked */
730
731             DBHOLD(ubik_dbase);
732             /*
733              * Check if a write transaction is in progress. We can't send the
734              * db when a write is in progress here because the db would be
735              * obsolete as soon as it goes there. Also, ops after the begin
736              * trans would reach the recepient and wouldn't find a transaction
737              * pending there.  Frankly, I don't think it's possible to get past
738              * the write-lock above if there is a write transaction in progress,
739              * but then, it won't hurt to check, will it?
740              */
741             if (ubik_dbase->flags & DBWRITING) {
742                 struct timeval tv;
743                 int safety = 0;
744                 tv.tv_sec = 0;
745                 tv.tv_usec = 50000;
746                 while ((ubik_dbase->flags & DBWRITING) && (safety < 500)) {
747                     DBRELE(ubik_dbase);
748                     /* sleep for a little while */
749 #ifdef AFS_PTHREAD_ENV
750                     select(0, 0, 0, 0, &tv);
751 #else
752                     IOMGR_Select(0, 0, 0, 0, &tv);
753 #endif
754                     tv.tv_usec += 10000;
755                     safety++;
756                     DBHOLD(ubik_dbase);
757                 }
758             }
759
760             for (ts = ubik_servers; ts; ts = ts->next) {
761                 inAddr.s_addr = ts->addr[0];
762                 if (!ts->up) {
763                     ubik_dprint("recovery cannot send version to %s\n",
764                                 afs_inet_ntoa_r(inAddr.s_addr, hoststr));
765                     dbok = 0;
766                     continue;
767                 }
768                 ubik_dprint("recovery sending version to %s\n",
769                             afs_inet_ntoa_r(inAddr.s_addr, hoststr));
770                 if (vcmp(ts->version, ubik_dbase->version) != 0) {
771                     ubik_dprint("recovery stating local database\n");
772
773                     /* Rx code to do the Bulk Store */
774                     code = (*ubik_dbase->stat) (ubik_dbase, 0, &ubikstat);
775                     if (!code) {
776                         length = ubikstat.size;
777                         file = offset = 0;
778                         rxcall = rx_NewCall(ts->disk_rxcid);
779                         code =
780                             StartDISK_SendFile(rxcall, file, length,
781                                                &ubik_dbase->version);
782                         if (code) {
783                             ubik_dprint("StartDiskSendFile failed=%d\n",
784                                         code);
785                             goto StoreEndCall;
786                         }
787                         while (length > 0) {
788                             tlen =
789                                 (length >
790                                  sizeof(tbuffer) ? sizeof(tbuffer) : length);
791                             nbytes =
792                                 (*ubik_dbase->read) (ubik_dbase, file,
793                                                      tbuffer, offset, tlen);
794                             if (nbytes != tlen) {
795                                 ubik_dprint("Local disk read error=%d\n",
796                                             code = UIOERROR);
797                                 goto StoreEndCall;
798                             }
799                             nbytes = rx_Write(rxcall, tbuffer, tlen);
800                             if (nbytes != tlen) {
801                                 ubik_dprint("Rx-write bulk error=%d\n", code =
802                                             BULK_ERROR);
803                                 goto StoreEndCall;
804                             }
805                             offset += tlen;
806                             length -= tlen;
807                         }
808                         code = EndDISK_SendFile(rxcall);
809                       StoreEndCall:
810                         code = rx_EndCall(rxcall, code);
811                     }
812                     if (code == 0) {
813                         /* we set a new file, process its header */
814                         ts->version = ubik_dbase->version;
815                         ts->currentDB = 1;
816                     } else
817                         dbok = 0;
818                 } else {
819                     /* mark file up to date */
820                     ts->currentDB = 1;
821                 }
822             }
823             DBRELE(ubik_dbase);
824             if (dbok)
825                 urecovery_state |= UBIK_RECSENTDB;
826         }
827     }
828     return NULL;
829 }
830
831 /*!
832  * \brief send a Probe to all the network address of this server
833  *
834  * \return 0 if success, else return 1
835  */
836 int
837 DoProbe(struct ubik_server *server)
838 {
839     struct rx_connection *conns[UBIK_MAX_INTERFACE_ADDR];
840     struct rx_connection *connSuccess = 0;
841     int i, j, success_i = -1;
842     afs_uint32 addr;
843     char buffer[32];
844     char hoststr[16];
845     extern afs_int32 ubikSecIndex;
846     extern struct rx_securityClass *ubikSecClass;
847
848     for (i = 0; (addr = server->addr[i]) && (i < UBIK_MAX_INTERFACE_ADDR);
849          i++) {
850         conns[i] =
851             rx_NewConnection(addr, ubik_callPortal, DISK_SERVICE_ID,
852                              ubikSecClass, ubikSecIndex);
853
854         /* user requirement to use only the primary interface */
855         if (ubikPrimaryAddrOnly) {
856             i = 1;
857             break;
858         }
859     }
860     osi_Assert(i);                      /* at least one interface address for this server */
861
862 #ifdef AFS_PTHREAD_ENV
863     DBRELE(ubik_dbase);
864 #endif
865
866     multi_Rx(conns, i) {
867         multi_DISK_Probe();
868         if (!multi_error) {     /* first success */
869             success_i = multi_i;
870
871             multi_Abort;
872         }
873     } multi_End_Ignore;
874
875 #ifdef AFS_PTHREAD_ENV
876     DBHOLD(ubik_dbase);
877 #endif
878
879     if (success_i >= 0) {
880         addr = server->addr[success_i]; /* successful interface addr */
881
882         if (server->disk_rxcid) /* destroy existing conn */
883             rx_DestroyConnection(server->disk_rxcid);
884         if (server->vote_rxcid)
885             rx_DestroyConnection(server->vote_rxcid);
886
887         /* make new connections */
888         server->disk_rxcid = conns[success_i];
889         server->vote_rxcid = rx_NewConnection(addr, ubik_callPortal,
890                                               VOTE_SERVICE_ID, ubikSecClass,
891                                               ubikSecIndex);
892
893         connSuccess = conns[success_i];
894         strcpy(buffer, afs_inet_ntoa_r(server->addr[0], hoststr));
895
896         ubik_print("ubik:server %s is back up: will be contacted through %s\n",
897              buffer, afs_inet_ntoa_r(addr, hoststr));
898     }
899
900     /* Destroy all connections except the one on which we succeeded */
901     for (j = 0; j < i; j++)
902         if (conns[j] != connSuccess)
903             rx_DestroyConnection(conns[j]);
904
905     if (!connSuccess)
906         ubik_dprint("ubik:server %s still down\n",
907                     afs_inet_ntoa_r(server->addr[0], hoststr));
908
909     if (connSuccess)
910         return 0;               /* success */
911     else
912         return 1;               /* failure */
913 }