afsconf: Rework security flags
[openafs.git] / src / viced / viced.c
index 2da97d5..ce327e5 100644 (file)
@@ -1,7 +1,7 @@
 /*
  * Copyright 2000, International Business Machines Corporation and others.
  * All Rights Reserved.
- * 
+ *
  * This software has been released under the terms of the IBM Public
  * License.  For details, see the LICENSE file in the top-level source
  * directory or online at http://www.openafs.org/dl/license10.html
@@ -21,6 +21,8 @@
 #include <afsconfig.h>
 #include <afs/param.h>
 
+#include <afs/procmgmt.h>
+#include <roken.h>
 
 #include <stdio.h>
 #include <stdlib.h>
@@ -30,6 +32,9 @@
 #include <afs/procmgmt.h>      /* signal(), kill(), wait(), etc. */
 #include <sys/stat.h>
 #include <fcntl.h>
+#ifdef HAVE_STDINT_H
+# include <stdint.h>
+#endif
 #ifdef AFS_NT40_ENV
 #include <io.h>
 #include <windows.h>
 #undef SHARED
 #include <rx/xdr.h>
 #include <afs/nfs.h>
-#ifdef AFS_PTHREAD_ENV
-#include <assert.h>
-#else /* AFS_PTHREAD_ENV */
-#include <afs/assert.h>
-#endif /* AFS_PTHREAD_ENV */
+#include <afs/afs_assert.h>
 #include <lwp.h>
 #include <lock.h>
 #include <afs/ptclient.h>
@@ -68,6 +69,7 @@
 #include <afs/acl.h>
 #include <afs/prs_fs.h>
 #include <rx/rx.h>
+#include <rx/rxstat.h>
 #include <afs/keys.h>
 #include <afs/afs_args.h>
 #include <afs/vlserver.h>
@@ -76,6 +78,7 @@
 #include <afs/ptuser.h>
 #include <afs/audit.h>
 #include <afs/partition.h>
+#include <afs/dir.h>
 #ifndef AFS_NT40_ENV
 #include <afs/netutils.h>
 #endif
@@ -83,7 +86,7 @@
 #include "viced.h"
 #include "host.h"
 #ifdef AFS_PTHREAD_ENV
-#include "softsig.h"
+#include <afs/softsig.h>
 #endif
 #if defined(AFS_SGI_ENV)
 #include "sys/schedctl.h"
 #endif
 #include <rx/rx_globals.h>
 
-#ifdef O_LARGEFILE
-#define afs_stat       stat64
-#define afs_fstat      fstat64
-#define afs_open       open64
-#define afs_fopen      fopen64
-#else /* !O_LARGEFILE */
-#define afs_stat       stat
-#define afs_fstat      fstat
-#define afs_open       open
-#define afs_fopen      fopen
-#endif /* !O_LARGEFILE */
-
-extern int BreakVolumeCallBacks(), InitCallBack();
-extern int BreakVolumeCallBacks(), InitCallBack(), BreakLaterCallBacks();
-extern int BreakVolumeCallBacksLater();
-extern int LogLevel, etext;
-extern afs_int32 BlocksSpare, PctSpare;
+extern int etext;
 
 void *ShutDown(void *);
-static void ClearXStatValues(), NewParms(), PrintCounters();
-static void ResetCheckDescriptors(void), ResetCheckSignal(void);
+static void ClearXStatValues(void);
+static void NewParms(int);
+static void PrintCounters(void);
+static void ResetCheckDescriptors(void);
+static void ResetCheckSignal(void);
 static void *CheckSignal(void *);
-extern int GetKeysFromToken();
-extern int RXAFS_ExecuteRequest();
-extern int RXSTATS_ExecuteRequest();
-afs_int32 Do_VLRegisterRPC();
+
+static afs_int32 Do_VLRegisterRPC(void);
 
 int eventlog = 0, rxlog = 0;
 FILE *debugFile;
-FILE *console = NULL;
 
 #ifdef AFS_PTHREAD_ENV
 pthread_mutex_t fsync_glock_mutex;
@@ -130,8 +117,7 @@ char fsync_wait[1];
 #endif /* AFS_PTHREAD_ENV */
 
 #ifdef AFS_NT40_ENV
-#define AFS_QUIETFS_ENV 1
-#define NT_OPEN_MAX    1024    /* This is an arbitrary no. we came up with for 
+#define NT_OPEN_MAX    1024    /* This is an arbitrary no. we came up with for
                                 * now. We hope this will be replaced by a more
                                 * intelligent estimate later. */
 #endif
@@ -162,9 +148,9 @@ int debuglevel = 0;
 int printBanner = 0;
 int rxJumbograms = 0;          /* default is to not send and receive jumbograms. */
 int rxBind = 0;                /* don't bind */
-int rxkadDisableDotCheck = 0;      /* disable check for dot in principal name */ 
+int rxkadDisableDotCheck = 0;      /* disable check for dot in principal name */
 int rxMaxMTU = -1;
-afs_int32 implicitAdminRights = PRSFS_LOOKUP;  /* The ADMINISTER right is 
+afs_int32 implicitAdminRights = PRSFS_LOOKUP;  /* The ADMINISTER right is
                                                 * already implied */
 afs_int32 readonlyServer = 0;
 
@@ -178,6 +164,16 @@ int SawLock;
 #endif
 time_t StartTime;
 
+/**
+ * seconds to wait until forcing a panic during ShutDownAndCore(PANIC)
+ * in case we get stuck.
+ */
+#ifdef AFS_DEMAND_ATTACH_FS
+static int panic_timeout = 2 * 60;
+#else
+static int panic_timeout = 30 * 60;
+#endif
+
 int rxpackets = 150;           /* 100 */
 int nSmallVns = 400;           /* 200 */
 int large = 400;               /* 200 */
@@ -191,6 +187,9 @@ int abort_threshold = 10;
 int udpBufSize = 0;            /* UDP buffer size for receive */
 int sendBufSize = 16384;       /* send buffer size */
 int saneacls = 0;              /* Sane ACLs Flag */
+static int unsafe_attach = 0;   /* avoid inUse check on vol attach? */
+static int offline_timeout = -1; /* -offline-timeout option */
+static int offline_shutdown_timeout = -1; /* -offline-shutdown-timeout option */
 
 struct timeval tp;
 
@@ -215,7 +214,7 @@ afs_uint32 FS_HostAddrs[ADDRSPERSITE], FS_HostAddr_cnt = 0, FS_registered = 0;
 /* All addresses in FS_HostAddrs are in NBO */
 afsUUID FS_HostUUID;
 
-static void FlagMsg();
+static void FlagMsg(void);
 
 #ifdef AFS_DEMAND_ATTACH_FS
 /*
@@ -231,16 +230,37 @@ static void FlagMsg();
 #define PTHREAD_RWLOCK_INITIALIZER {0x2DA8B3B4, {0}}
 #endif
 
-struct fs_state fs_state = 
-    { FS_MODE_NORMAL, 
-      0, 
-      0, 
-      0, 
+#ifndef AFS_NT40_ENV
+struct fs_state fs_state =
+    { FS_MODE_NORMAL,
+      0,
+      0,
+      0,
       0,
       { 1,1,1,1 },
       PTHREAD_COND_INITIALIZER,
       PTHREAD_RWLOCK_INITIALIZER
     };
+#else /* AFS_NT40_ENV */
+struct fs_state fs_state;
+
+static int fs_stateInit(void)
+{
+    fs_state.mode = FS_MODE_NORMAL;
+    fs_state.FiveMinuteLWP_tranquil = 0;
+    fs_state.HostCheckLWP_tranquil = 0;
+    fs_state.FsyncCheckLWP_tranquil = 0;
+    fs_state.salvsync_fatal_error = 0;
+
+    fs_state.options.fs_state_save = 1;
+    fs_state.options.fs_state_restore = 1;
+    fs_state.options.fs_state_verify_before_save = 1;
+    fs_state.options.fs_state_verify_after_restore = 1;
+
+    CV_INIT(&fs_state.worker_done_cv, "worker done", CV_DEFAULT, 0);
+    osi_Assert(pthread_rwlock_init(&fs_state.state_lock, NULL) == 0);
+}
+#endif /* AFS_NT40_ENV */
 #endif /* AFS_DEMAND_ATTACH_FS */
 
 /*
@@ -253,12 +273,13 @@ CheckDescriptors(void *unused)
 {
 #ifndef AFS_NT40_ENV
     struct afs_stat status;
-    register int tsize = getdtablesize();
-    register int i;
+    int tsize = getdtablesize();
+    int i;
     for (i = 0; i < tsize; i++) {
        if (afs_fstat(i, &status) != -1) {
            printf("%d: dev %x, inode %u, length %u, type/mode %x\n", i,
-                  status.st_dev, status.st_ino, 
+                  (unsigned int) status.st_dev,
+                  (unsigned int) status.st_ino,
                   (unsigned int) status.st_size,
                   status.st_mode);
        }
@@ -272,37 +293,37 @@ CheckDescriptors(void *unused)
 
 #ifdef AFS_PTHREAD_ENV
 void
-CheckSignal_Signal(x)
+CheckSignal_Signal(int x)
 {
     CheckSignal(NULL);
 }
 
 void
-ShutDown_Signal(x)
+ShutDown_Signal(int x)
 {
     ShutDown(NULL);
 }
 
 void
-CheckDescriptors_Signal(x)
+CheckDescriptors_Signal(int x)
 {
     CheckDescriptors(NULL);
 }
 #else /* AFS_PTHREAD_ENV */
 void
-CheckSignal_Signal(x)
+CheckSignal_Signal(int x)
 {
     IOMGR_SoftSig(CheckSignal, 0);
 }
 
 void
-ShutDown_Signal(x)
+ShutDown_Signal(int x)
 {
     IOMGR_SoftSig(ShutDown, 0);
 }
 
 void
-CheckDescriptors_Signal(x)
+CheckDescriptors_Signal(int x)
 {
     IOMGR_SoftSig(CheckDescriptors, 0);
 }
@@ -353,41 +374,19 @@ ResetCheckDescriptors(void)
 int
 threadNum(void)
 {
-    return (int)pthread_getspecific(rx_thread_id_key);
+    return (intptr_t)pthread_getspecific(rx_thread_id_key);
 }
 #endif
 
-/* proc called by rxkad module to get a key */
-static int
-get_key(void *arock, register afs_int32 akvno, struct ktc_encryptionKey *akey)
-{
-    /* find the key */
-    static struct afsconf_key tkey;
-    register afs_int32 code;
-
-    if (!confDir) {
-       ViceLog(0, ("conf dir not open\n"));
-       return 1;
-    }
-    code = afsconf_GetKey(confDir, akvno, (struct ktc_encryptionKey *)tkey.key);
-    if (code) {
-       ViceLog(0, ("afsconf_GetKey failure: kvno %d code %d\n", akvno, code));
-       return code;
-    }
-    memcpy(akey, tkey.key, sizeof(tkey.key));
-    return 0;
-
-}                              /*get_key */
-
 #ifndef AFS_NT40_ENV
 int
 viced_syscall(afs_uint32 a3, afs_uint32 a4, void *a5)
 {
     afs_uint32 rcode;
-    void (*old) ();
-
 #ifndef AFS_LINUX20_ENV
-    old = (void (*)())signal(SIGSYS, SIG_IGN);
+    void (*old) (int);
+
+    old = (void (*)(int))signal(SIGSYS, SIG_IGN);
 #endif
     rcode = syscall(AFS_SYSCALL, 28 /* AFSCALL_CALL */ , a3, a4, a5);
 #ifndef AFS_LINUX20_ENV
@@ -406,7 +405,7 @@ viced_syscall(afs_uint32 a3, afs_uint32 a4, void *a5)
 char adminName[MAXADMINNAME];
 
 static void
-CheckAdminName()
+CheckAdminName(void)
 {
     int fd = 0;
     struct afs_stat status;
@@ -430,12 +429,10 @@ setThreadId(char *s)
 {
 #if defined(AFS_PTHREAD_ENV) && !defined(AFS_NT40_ENV)
     /* set our 'thread-id' so that the host hold table works */
-    MUTEX_ENTER(&rx_stats_mutex);      /* protects rxi_pthread_hinum */
-    ++rxi_pthread_hinum;
-    pthread_setspecific(rx_thread_id_key, (void *)rxi_pthread_hinum);
-    MUTEX_EXIT(&rx_stats_mutex);
+    pthread_setspecific(rx_thread_id_key,
+                       (void *)(intptr_t)rx_NewThreadId());
     ViceLog(0,
-           ("Set thread id %d for '%s'\n",
+           ("Set thread id %p for '%s'\n",
             pthread_getspecific(rx_thread_id_key), s));
 #endif
 }
@@ -489,15 +486,9 @@ FiveMinuteCheckLWP(void *unused)
 #endif
        if (printBanner && (++msg & 1)) {       /* Every 10 minutes */
            time_t now = FT_ApproxTime();
-           if (console != NULL) {
-#ifndef AFS_QUIETFS_ENV
-               fprintf(console, "File server is running at %s\r",
-                       afs_ctime(&now, tbuffer, sizeof(tbuffer)));
-#endif /* AFS_QUIETFS_ENV */
-               ViceLog(2,
-                       ("File server is running at %s\n",
-                        afs_ctime(&now, tbuffer, sizeof(tbuffer))));
-           }
+           ViceLog(2,
+                   ("File server is running at %s\n",
+                    afs_ctime(&now, tbuffer, sizeof(tbuffer))));
        }
 #ifdef AFS_DEMAND_ATTACH_FS
        FS_STATE_WRLOCK;
@@ -506,7 +497,7 @@ FiveMinuteCheckLWP(void *unused)
 #ifdef AFS_DEMAND_ATTACH_FS
     fs_state.FiveMinuteLWP_tranquil = 1;
     FS_LOCK;
-    assert(pthread_cond_broadcast(&fs_state.worker_done_cv)==0);
+    CV_BROADCAST(&fs_state.worker_done_cv);
     FS_UNLOCK;
     FS_STATE_UNLOCK;
 #endif
@@ -558,7 +549,7 @@ HostCheckLWP(void *unused)
 #ifdef AFS_DEMAND_ATTACH_FS
     fs_state.HostCheckLWP_tranquil = 1;
     FS_LOCK;
-    assert(pthread_cond_broadcast(&fs_state.worker_done_cv)==0);
+    CV_BROADCAST(&fs_state.worker_done_cv);
     FS_UNLOCK;
     FS_STATE_UNLOCK;
 #endif
@@ -594,9 +585,8 @@ FsyncCheckLWP(void *unused)
        fsync_next.tv_nsec = 0;
        fsync_next.tv_sec = time(0) + fiveminutes;
 
-       code =
-           pthread_cond_timedwait(&fsync_cond, &fsync_glock_mutex,
-                                  &fsync_next);
+       code = CV_TIMEDWAIT(&fsync_cond, &fsync_glock_mutex,
+                           &fsync_next);
        if (code != 0 && code != ETIMEDOUT)
            ViceLog(0, ("pthread_cond_timedwait returned %d\n", code));
 #else /* AFS_PTHREAD_ENV */
@@ -625,7 +615,7 @@ FsyncCheckLWP(void *unused)
 #ifdef AFS_DEMAND_ATTACH_FS
     fs_state.FsyncCheckLWP_tranquil = 1;
     FS_LOCK;
-    assert(pthread_cond_broadcast(&fs_state.worker_done_cv)==0);
+    CV_BROADCAST(&fs_state.worker_done_cv);
     FS_UNLOCK;
     FS_STATE_UNLOCK;
 #endif /* AFS_DEMAND_ATTACH_FS */
@@ -653,7 +643,7 @@ FsyncCheckLWP(void *unused)
  *------------------------------------------------------------------------*/
 
 static void
-ClearXStatValues()
+ClearXStatValues(void)
 {                              /*ClearXStatValues */
 
     struct fs_stats_opTimingData *opTimeP;     /*Ptr to timing struct */
@@ -663,9 +653,9 @@ ClearXStatValues()
     /*
      * Zero all xstat-related structures.
      */
-    memset((char *)(&afs_perfstats), 0, sizeof(struct afs_PerfStats));
+    memset((&afs_perfstats), 0, sizeof(struct afs_PerfStats));
 #if FS_STATS_DETAILED
-    memset((char *)(&afs_FullPerfStats), 0,
+    memset((&afs_FullPerfStats), 0,
           sizeof(struct fs_stats_FullPerfStats));
 
     /*
@@ -704,13 +694,16 @@ int CopyOnWrite_calls = 0, CopyOnWrite_off0 = 0, CopyOnWrite_size0 = 0;
 afs_fsize_t CopyOnWrite_maxsize = 0;
 
 static void
-PrintCounters()
+PrintCounters(void)
 {
     int dirbuff, dircall, dirio;
     struct timeval tpl;
     int workstations, activeworkstations, delworkstations;
     int processSize = 0;
     char tbuffer[32];
+#ifdef AFS_DEMAND_ATTACH_FS
+    int stats_flags = 0;
+#endif
 
     FT_GetTimeOfDay(&tpl, 0);
     Statistics = 1;
@@ -719,9 +712,12 @@ PrintCounters()
             afs_ctime(&StartTime, tbuffer, sizeof(tbuffer))));
 
 #ifdef AFS_DEMAND_ATTACH_FS
-    /* XXX perhaps set extended stats verbosity flags
-     * based upon LogLevel ?? */
-    VPrintExtendedCacheStats(VOL_STATS_PER_CHAIN2);
+    if (LogLevel >= 125) {
+       stats_flags = VOL_STATS_PER_CHAIN2;
+    } else if (LogLevel >= 25) {
+       stats_flags = VOL_STATS_PER_CHAIN;
+    }
+    VPrintExtendedCacheStats(stats_flags);
 #endif
     VPrintCacheStats();
     VPrintDiskStats();
@@ -730,6 +726,7 @@ PrintCounters()
            ("With %d directory buffers; %d reads resulted in %d read I/Os\n",
             dirbuff, dircall, dirio));
     rx_PrintStats(stderr);
+    audit_PrintStats(stderr);
     h_PrintStats();
     PrintCallBackStats();
 #ifdef AFS_NT40_ENV
@@ -772,18 +769,54 @@ CheckSignal(void *unused)
     return 0;
 }                              /*CheckSignal */
 
+static void *
+ShutdownWatchdogLWP(void *unused)
+{
+    sleep(panic_timeout);
+    ViceLog(0, ("ShutdownWatchdogLWP: Failed to shutdown and panic "
+                "within %d seconds; forcing panic\n", panic_timeout));
+    osi_Panic("ShutdownWatchdogLWP: Failed to shutdown and panic "
+             "within %d seconds; forcing panic\n", panic_timeout);
+    return NULL;
+}
+
 void
 ShutDownAndCore(int dopanic)
 {
     time_t now = time(0);
     char tbuffer[32];
 
+    if (dopanic) {
+#ifdef AFS_PTHREAD_ENV
+       pthread_t watchdogPid;
+       pthread_attr_t tattr;
+       osi_Assert(pthread_attr_init(&tattr) == 0);
+       osi_Assert(pthread_create(&watchdogPid, &tattr, ShutdownWatchdogLWP, NULL) == 0);
+#else
+       PROCESS watchdogPid;
+       osi_Assert(LWP_CreateProcess
+              (ShutdownWatchdogLWP, stack * 1024, LWP_MAX_PRIORITY - 2,
+               NULL, "ShutdownWatchdog", &watchdogPid) == LWP_SUCCESS);
+#endif
+    }
+
     /* do not allows new reqests to be served from now on, all new requests
      * are returned with an error code of RX_RESTARTING ( transient failure ) */
     rx_SetRxTranquil();                /* dhruba */
 
+    VSetTranquil();
+
 #ifdef AFS_DEMAND_ATTACH_FS
     FS_STATE_WRLOCK;
+    if (fs_state.mode == FS_MODE_SHUTDOWN) {
+       /* it is possible for at least fs_stateSave() (called below) to call
+        * ShutDownAndCore if there's host list corruption; prevent
+        * deinitializing some stuff twice */
+       ViceLog(0, ("ShutDownAndCore called during shutdown? Skipping volume "
+                   "and host package shutdown\n"));
+       FS_STATE_UNLOCK;
+       goto done_vol_host;
+    }
     fs_state.mode = FS_MODE_SHUTDOWN;
     FS_STATE_UNLOCK;
 #endif
@@ -793,12 +826,6 @@ ShutDownAndCore(int dopanic)
             afs_ctime(&now, tbuffer, sizeof(tbuffer))));
     if (dopanic)
        ViceLog(0, ("ABNORMAL SHUTDOWN, see core file.\n"));
-#ifndef AFS_QUIETFS_ENV
-    if (console != NULL) {
-       fprintf(console, "File server restart/shutdown received at %s\r",
-               afs_ctime(&now, tbuffer, sizeof(tbuffer)));
-    }
-#endif
     DFlush();
     if (!dopanic)
        PrintCounters();
@@ -808,56 +835,54 @@ ShutDownAndCore(int dopanic)
 
 #ifdef AFS_DEMAND_ATTACH_FS
     if (fs_state.options.fs_state_save) {
-       /* 
+       /*
         * demand attach fs
         * save fileserver state to disk */
 
-       /* make sure background threads have finished all of their asynchronous 
-        * work on host and callback structures */
-       FS_STATE_RDLOCK;
-       while (!fs_state.FiveMinuteLWP_tranquil ||
-              !fs_state.HostCheckLWP_tranquil ||
-              !fs_state.FsyncCheckLWP_tranquil) {
-           FS_LOCK;
-           FS_STATE_UNLOCK;
-           ViceLog(0, ("waiting for background host/callback threads to quiesce before saving fileserver state...\n"));
-           assert(pthread_cond_wait(&fs_state.worker_done_cv, &fileproc_glock_mutex) == 0);
-           FS_UNLOCK;
+       if (dopanic) {
+           ViceLog(0, ("Not saving fileserver state; abnormal shutdown\n"));
+
+       } else {
+           /* make sure background threads have finished all of their asynchronous
+            * work on host and callback structures */
            FS_STATE_RDLOCK;
-       }
+           while (!fs_state.FiveMinuteLWP_tranquil ||
+                  !fs_state.HostCheckLWP_tranquil ||
+                  !fs_state.FsyncCheckLWP_tranquil) {
+               FS_LOCK;
+               FS_STATE_UNLOCK;
+               ViceLog(0, ("waiting for background host/callback threads to quiesce before saving fileserver state...\n"));
+               CV_WAIT(&fs_state.worker_done_cv, &fileproc_glock_mutex);
+               FS_UNLOCK;
+               FS_STATE_RDLOCK;
+           }
+           FS_STATE_UNLOCK;
 
-       /* ok. it should now be fairly safe. let's do the state dump */
-       fs_stateSave();
+           /* ok. it should now be fairly safe. let's do the state dump */
+           fs_stateSave();
+       }
     }
+ done_vol_host:
+
 #endif /* AFS_DEMAND_ATTACH_FS */
 
     if (debugFile) {
        rx_PrintStats(debugFile);
        fflush(debugFile);
     }
-    if (console != NULL) {
-       now = time(0);
-       if (dopanic) {
-#ifndef AFS_QUIETFS_ENV
-           fprintf(console, "File server has terminated abnormally at %s\r",
-                   afs_ctime(&now, tbuffer, sizeof(tbuffer)));
-#endif
-           ViceLog(0,
-                   ("File server has terminated abnormally at %s\n",
-                    afs_ctime(&now, tbuffer, sizeof(tbuffer))));
-       } else {
-#ifndef AFS_QUIETFS_ENV
-           fprintf(console, "File server has terminated normally at %s\r",
-                   afs_ctime(&now, tbuffer, sizeof(tbuffer)));
-#endif
-           ViceLog(0,
-                   ("File server has terminated normally at %s\n",
-                    afs_ctime(&now, tbuffer, sizeof(tbuffer))));
-       }
+    now = time(0);
+    if (dopanic) {
+      ViceLog(0,
+             ("File server has terminated abnormally at %s\n",
+              afs_ctime(&now, tbuffer, sizeof(tbuffer))));
+    } else {
+      ViceLog(0,
+             ("File server has terminated normally at %s\n",
+              afs_ctime(&now, tbuffer, sizeof(tbuffer))));
     }
 
-    if (dopanic)
-       assert(0);
+    if (dopanic) /* XXX pass in file and line? */
+       osi_Panic("Panic requested\n");
 
     exit(0);
 }
@@ -871,12 +896,13 @@ ShutDown(void *unused)
 
 
 static void
-FlagMsg()
+FlagMsg(void)
 {
     /* default supports help flag */
 
     fputs("Usage: fileserver ", stdout);
     fputs("[-auditlog <log path>] ", stdout);
+    fputs("[-audit-interface <file|sysvmq> (default is file)] ", stdout);
     fputs("[-d <debug level>] ", stdout);
     fputs("[-p <number of processes>] ", stdout);
     fputs("[-spare <number of spare blocks>] ", stdout);
@@ -900,6 +926,9 @@ FlagMsg()
     fputs("[-rxmaxmtu <bytes>] ", stdout);
     fputs("[-rxbind (bind the Rx socket to one address)] ", stdout);
     fputs("[-allow-dotted-principals (disable the rxkad principal name dot check)] ", stdout);
+    fputs("[-vhandle-setaside (fds reserved for non-cache io [default 128])] ", stdout);
+    fputs("[-vhandle-max-cachesize (max open files [default 128])] ", stdout);
+    fputs("[-vhandle-initial-cachesize (fds reserved for cache io [default 128])] ", stdout);
 #ifdef AFS_DEMAND_ATTACH_FS
     fputs("[-fs-state-dont-save (disable state save during shutdown)] ", stdout);
     fputs("[-fs-state-dont-restore (disable state restore during startup)] ", stdout);
@@ -910,6 +939,7 @@ FlagMsg()
     fputs("[-vlruthresh <minutes before unused volumes become eligible for soft detach> (default is 2 hours)] ", stdout);
     fputs("[-vlruinterval <seconds between VLRU scans> (default is 2 minutes)] ", stdout);
     fputs("[-vlrumax <max volumes to soft detach in one VLRU scan> (default is 8)] ", stdout);
+    fputs("[-unsafe-nosalvage (bypass volume inUse safety check on attach, bypassing salvage)] ", stdout);
 #elif AFS_PTHREAD_ENV
     fputs("[-vattachpar <number of volume attach threads> (default is 1)] ", stdout);
 #endif
@@ -928,6 +958,8 @@ FlagMsg()
     fputs("[-abortthreshold <abort threshold>] ", stdout);
     fputs("[-nojumbo (disable jumbogram network packets - deprecated)] ", stdout);
     fputs("[-jumbo (enable jumbogram network packets)] ", stdout);
+    fputs("[-offline-timeout <client RX timeout for offlining volumes>]", stdout);
+    fputs("[-offline-shutdown-timeout <RX timeout for offlining volumes during shutdown>]", stdout);
 /*   fputs("[-enable_peer_stats] ", stdout); */
 /*   fputs("[-enable_process_stats] ", stdout); */
     fputs("[-help]\n", stdout);
@@ -1033,6 +1065,9 @@ max_fileserver_thread(void)
     return MAX_FILESERVER_THREAD;
 }
 
+/* from ihandle.c */
+extern ih_init_params vol_io_params;
+
 static int
 ParseArgs(int argc, char *argv[])
 {
@@ -1042,12 +1077,14 @@ ParseArgs(int argc, char *argv[])
     int Sawbusy = 0;
     int i;
     int bufSize = 0;           /* temp variable to read in udp socket buf size */
+    int lwps_max;
+    char *auditFileName = NULL;
 
     for (i = 1; i < argc; i++) {
        if (!strcmp(argv[i], "-d")) {
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -d\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -d\n");
+               return -1;
            }
            debuglevel = atoi(argv[++i]);
            LogLevel = debuglevel;
@@ -1055,8 +1092,8 @@ ParseArgs(int argc, char *argv[])
            printBanner = 1;
        } else if (!strcmp(argv[i], "-implicit")) {
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -implicit\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -implicit\n");
+               return -1;
            }
            implicitAdminRights = ParseRights(argv[++i]);
            if (implicitAdminRights < 0)
@@ -1068,37 +1105,31 @@ ParseArgs(int argc, char *argv[])
        } else if (!strcmp(argv[i], "-S")) {
            SawS = 1;
        } else if (!strcmp(argv[i], "-p")) {
-           int lwps_max =
-               max_fileserver_thread() - FILESERVER_HELPER_THREADS;
            Sawlwps = 1;
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -p\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -p\n");
+               return -1;
            }
            lwps = atoi(argv[++i]);
-           if (lwps > lwps_max)
-               lwps = lwps_max;
-           else if (lwps < 6)
-               lwps = 6;
        } else if (!strcmp(argv[i], "-b")) {
            Sawbufs = 1;
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -b\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -b\n");
+               return -1;
            }
            buffs = atoi(argv[++i]);
        } else if (!strcmp(argv[i], "-l")) {
            Sawlarge = 1;
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -l\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -l\n");
+               return -1;
            }
            large = atoi(argv[++i]);
        } else if (!strcmp(argv[i], "-vc")) {
            SawVC = 1;
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -vc\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -vc\n");
+               return -1;
            }
            volcache = atoi(argv[++i]);
        } else if (!strcmp(argv[i], "-novbc")) {
@@ -1106,18 +1137,36 @@ ParseArgs(int argc, char *argv[])
        } else if (!strcmp(argv[i], "-rxpck")) {
            Sawrxpck = 1;
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -rxpck\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -rxpck\n");
+               return -1;
            }
            rxpackets = atoi(argv[++i]);
 #ifdef AFS_PTHREAD_ENV
        } else if (!strcmp(argv[i], "-vattachpar")) {
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for %s\n", argv[i]); 
-               return -1; 
+               fprintf(stderr, "missing argument for %s\n", argv[i]);
+               return -1;
            }
            vol_attach_threads = atoi(argv[++i]);
 #endif /* AFS_PTHREAD_ENV */
+        } else if (!strcmp(argv[i], "-vhandle-setaside")) {
+            if ((i + 1) >= argc) {
+                fprintf(stderr, "missing argument for %s\n", argv[i]);
+                return -1;
+           }
+            vol_io_params.fd_handle_setaside = atoi(argv[++i]);
+        } else if (!strcmp(argv[i], "-vhandle-max-cachesize")) {
+            if ((i + 1) >= argc) {
+                fprintf(stderr, "missing argument for %s\n", argv[i]);
+                return -1;
+            }
+            vol_io_params.fd_max_cachesize = atoi(argv[++i]);
+        } else if (!strcmp(argv[i], "-vhandle-initial-cachesize")) {
+            if ((i + 1) >= argc) {
+                fprintf(stderr, "missing argument for %s\n", argv[i]);
+                return -1;
+            }
+            vol_io_params.fd_initial_cachesize = atoi(argv[++i]);
 #ifdef AFS_DEMAND_ATTACH_FS
        } else if (!strcmp(argv[i], "-fs-state-dont-save")) {
            fs_state.options.fs_state_save = 0;
@@ -1125,8 +1174,8 @@ ParseArgs(int argc, char *argv[])
            fs_state.options.fs_state_restore = 0;
        } else if (!strcmp(argv[i], "-fs-state-verify")) {
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for %s\n", argv[i]); 
-               return -1; 
+               fprintf(stderr, "missing argument for %s\n", argv[i]);
+               return -1;
            }
            i++;
            if (!strcmp(argv[i], "none")) {
@@ -1143,49 +1192,57 @@ ParseArgs(int argc, char *argv[])
                return -1;
            }
        } else if (!strcmp(argv[i], "-vhashsize")) {
+           int hashsize;
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for %s\n", argv[i]); 
-               return -1; 
+               fprintf(stderr, "missing argument for %s\n", argv[i]);
+               return -1;
+           }
+           hashsize = atoi(argv[++i]);
+           if (VSetVolHashSize(hashsize)) {
+               fprintf(stderr, "specified -vhashsize (%s) is invalid or out "
+                               "of range\n", argv[i]);
+               return -1;
            }
-           VSetVolHashSize(atoi(argv[++i]));
        } else if (!strcmp(argv[i], "-vlrudisable")) {
            VLRU_SetOptions(VLRU_SET_ENABLED, 0);
        } else if (!strcmp(argv[i], "-vlruthresh")) {
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for %s\n", argv[i]); 
-               return -1; 
+               fprintf(stderr, "missing argument for %s\n", argv[i]);
+               return -1;
            }
            VLRU_SetOptions(VLRU_SET_THRESH, 60*atoi(argv[++i]));
        } else if (!strcmp(argv[i], "-vlruinterval")) {
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for %s\n", argv[i]); 
-               return -1; 
+               fprintf(stderr, "missing argument for %s\n", argv[i]);
+               return -1;
            }
            VLRU_SetOptions(VLRU_SET_INTERVAL, atoi(argv[++i]));
        } else if (!strcmp(argv[i], "-vlrumax")) {
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for %s\n", argv[i]); 
-               return -1; 
+               fprintf(stderr, "missing argument for %s\n", argv[i]);
+               return -1;
            }
            VLRU_SetOptions(VLRU_SET_MAX, atoi(argv[++i]));
+       } else if (!strcmp(argv[i], "-unsafe-nosalvage")) {
+           unsafe_attach = 1;
 #endif /* AFS_DEMAND_ATTACH_FS */
        } else if (!strcmp(argv[i], "-s")) {
            Sawsmall = 1;
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -s\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -s\n");
+               return -1;
            }
            nSmallVns = atoi(argv[++i]);
        } else if (!strcmp(argv[i], "-abortthreshold")) {
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -abortthreshold\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -abortthreshold\n");
+               return -1;
            }
            abort_threshold = atoi(argv[++i]);
        } else if (!strcmp(argv[i], "-k")) {
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -k\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -k\n");
+               return -1;
            }
            stack = atoi(argv[++i]);
        }
@@ -1196,30 +1253,30 @@ ParseArgs(int argc, char *argv[])
 #endif
        else if (!strcmp(argv[i], "-spare")) {
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -spare\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -spare\n");
+               return -1;
            }
            BlocksSpare = atoi(argv[++i]);
            SawSpare = 1;
        } else if (!strcmp(argv[i], "-pctspare")) {
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -pctspare\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -pctspare\n");
+               return -1;
            }
            PctSpare = atoi(argv[++i]);
            BlocksSpare = 0;    /* has non-zero default */
            SawPctSpare = 1;
        } else if (!strcmp(argv[i], "-w")) {
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -w\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -w\n");
+               return -1;
            }
            fiveminutes = atoi(argv[++i]);
        } else if (!strcmp(argv[i], "-hr")) {
            int hr;
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -hr\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -hr\n");
+               return -1;
            }
            hr = atoi(argv[++i]);
            if ((hr < 1) || (hr > 36)) {
@@ -1236,8 +1293,8 @@ ParseArgs(int argc, char *argv[])
        else if (!strcmp(argv[i], "-cb")) {
            Sawcbs = 1;
             if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -cb\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -cb\n");
+               return -1;
            }
            numberofcbs = atoi(argv[++i]);
            if ((numberofcbs < 10000) || (numberofcbs > 2147483647)) {
@@ -1249,8 +1306,8 @@ ParseArgs(int argc, char *argv[])
        } else if (!strcmp(argv[i], "-busyat")) {
            Sawbusy = 1;
            if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -busyat\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -busyat\n");
+               return -1;
            }
            busy_threshold = atoi(argv[++i]);
            if (busy_threshold < 10) {
@@ -1265,8 +1322,8 @@ ParseArgs(int argc, char *argv[])
        else if (!strcmp(argv[i], "-m")) {
            extern int aixlow_water;
            if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -m\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -m\n");
+               return -1;
            }
            aixlow_water = atoi(argv[++i]);
            if ((aixlow_water < 0) || (aixlow_water > 30)) {
@@ -1286,14 +1343,14 @@ ParseArgs(int argc, char *argv[])
            rxkadDisableDotCheck = 1;
        } else if (!strcmp(argv[i], "-rxmaxmtu")) {
            if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -rxmaxmtu\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -rxmaxmtu\n");
+               return -1;
            }
            rxMaxMTU = atoi(argv[++i]);
-           if ((rxMaxMTU < RX_MIN_PACKET_SIZE) || 
+           if ((rxMaxMTU < RX_MIN_PACKET_SIZE) ||
                (rxMaxMTU > RX_MAX_PACKET_DATA_SIZE)) {
-               printf("rxMaxMTU %d%% invalid; must be between %d-%d\n",
-                      rxMaxMTU, RX_MIN_PACKET_SIZE, 
+               printf("rxMaxMTU %d%% invalid; must be between %d-%" AFS_SIZET_FMT "\n",
+                      rxMaxMTU, RX_MIN_PACKET_SIZE,
                       RX_MAX_PACKET_DATA_SIZE);
                return -1;
                }
@@ -1301,8 +1358,8 @@ ParseArgs(int argc, char *argv[])
            extern char local_realms[AFS_NUM_LREALMS][AFS_REALM_SZ];
            extern int  num_lrealms;
            if ((i + 1) >= argc) {
-               fprintf(stderr, "missing argument for -realm\n"); 
-               return -1; 
+               fprintf(stderr, "missing argument for -realm\n");
+               return -1;
            }
            if (strlen(argv[++i]) >= AFS_REALM_SZ) {
                printf
@@ -1310,7 +1367,7 @@ ParseArgs(int argc, char *argv[])
                     AFS_REALM_SZ);
                return -1;
            }
-           if (num_lrealms == -1) 
+           if (num_lrealms == -1)
                num_lrealms = 0;
            if (num_lrealms >= AFS_NUM_LREALMS) {
                printf
@@ -1349,9 +1406,15 @@ ParseArgs(int argc, char *argv[])
            rx_enableProcessRPCStats();
        }
        else if (strcmp(argv[i], "-auditlog") == 0) {
-           char *fileName = argv[++i];
+           auditFileName = argv[++i];
+       }
+       else if (strcmp(argv[i], "-audit-interface") == 0) {
+           char *interface = argv[++i];
 
-            osi_audit_file(fileName);
+           if (osi_audit_interface(interface)) {
+               printf("Invalid audit interface '%s'\n", interface);
+               return -1;
+           }
        }
 #ifndef AFS_NT40_ENV
        else if (strcmp(argv[i], "-syslog") == 0) {
@@ -1365,10 +1428,49 @@ ParseArgs(int argc, char *argv[])
        else if (strcmp(argv[i], "-mrafslogs") == 0) {
            /* set syslog logging flag */
            mrafsStyleLogs = 1;
-       } 
+       }
        else if (strcmp(argv[i], "-saneacls") == 0) {
            saneacls = 1;
        }
+       else if (strcmp(argv[i], "-offline-timeout") == 0) {
+           if (i + 1 >= argc) {
+               printf("You have to specify -offline-timeout <integer>\n");
+               return -1;
+           }
+           offline_timeout = atoi(argv[++i]);
+#ifndef AFS_PTHREAD_ENV
+           if (offline_timeout != -1) {
+               printf("The only valid -offline-timeout value for the LWP "
+                      "fileserver is -1\n");
+               return -1;
+           }
+#endif /* AFS_PTHREAD_ENV */
+           if (offline_timeout < -1) {
+               printf("Invalid -offline-timeout value %s; the only valid "
+                      "negative value is -1\n", argv[i]);
+               return -1;
+           }
+       }
+       else if (strcmp(argv[i], "-offline-shutdown-timeout") == 0) {
+           if (i + 1 >= argc) {
+               printf("You have to specify -offline-shutdown-timeout "
+                      "<integer>\n");
+               return -1;
+           }
+           offline_shutdown_timeout = atoi(argv[++i]);
+#ifndef AFS_PTHREAD_ENV
+           if (offline_shutdown_timeout != -1) {
+               printf("The only valid -offline-shutdown-timeout value for the "
+                      "LWP fileserver is -1\n");
+               return -1;
+           }
+#endif /* AFS_PTHREAD_ENV */
+           if (offline_shutdown_timeout < -1) {
+               printf("Invalid -offline-timeout value %s; the only valid "
+                      "negative value is -1\n", argv[i]);
+               return -1;
+           }
+       }
        else {
            return (-1);
        }
@@ -1411,6 +1513,14 @@ ParseArgs(int argc, char *argv[])
     }
     if (!Sawbusy)
        busy_threshold = 3 * rxpackets / 2;
+    if (auditFileName)
+       osi_audit_file(auditFileName);
+
+    lwps_max = max_fileserver_thread() - FILESERVER_HELPER_THREADS;
+    if (lwps > lwps_max)
+       lwps = lwps_max;
+    else if (lwps < 6)
+       lwps = 6;
 
     return (0);
 
@@ -1423,10 +1533,10 @@ static void
 NewParms(int initializing)
 {
     static struct afs_stat sbuf;
-    register int i, fd;
+    int i, fd;
     char *parms;
     char *argv[MAXPARMS];
-    register int argc;
+    int argc;
 
     if (!(afs_stat("/vice/file/parms", &sbuf))) {
        parms = (char *)malloc(sbuf.st_size);
@@ -1445,8 +1555,8 @@ NewParms(int initializing)
                ViceLog(0, ("Read on parms failed with errno = %d\n", errno));
            } else {
                ViceLog(0,
-                       ("Read on parms failed; expected %d bytes but read %d\n",
-                        sbuf.st_size, i));
+                       ("Read on parms failed; expected %ld bytes but read %d\n",
+                        (long) sbuf.st_size, i));
            }
            free(parms);
            return;
@@ -1491,13 +1601,13 @@ void
 Die(char *msg)
 {
     ViceLog(0, ("%s\n", msg));
-    assert(0);
+    osi_Panic("%s\n", msg);
 
 }                              /*Die */
 
 
 afs_int32
-InitPR()
+InitPR(void)
 {
     int code;
 
@@ -1513,7 +1623,7 @@ InitPR()
     }
 
 #ifdef AFS_PTHREAD_ENV
-    assert(pthread_key_create(&viced_uclient_key, NULL) == 0);
+    osi_Assert(pthread_key_create(&viced_uclient_key, NULL) == 0);
 #endif
 
     SystemId = SYSADMINID;
@@ -1554,7 +1664,8 @@ struct ubik_client *cstruct;
 afs_int32
 vl_Initialize(const char *confDir)
 {
-    afs_int32 code, scIndex = 0, i;
+    afs_int32 code, i;
+    afs_int32 scIndex = RX_SECIDX_NULL;
     struct afsconf_dir *tdir;
     struct rx_securityClass *sc;
     struct afsconf_cell info;
@@ -1595,7 +1706,7 @@ vl_Initialize(const char *confDir)
 #define SYSIDVERSION   1
 
 afs_int32
-ReadSysIdFile()
+ReadSysIdFile(void)
 {
     afs_int32 fd, nentries, i;
     struct versionStamp vsn;
@@ -1677,7 +1788,7 @@ ReadSysIdFile()
 }
 
 afs_int32
-WriteSysIdFile()
+WriteSysIdFile(void)
 {
     afs_int32 fd, i;
     struct versionStamp vsn;
@@ -1739,18 +1850,17 @@ WriteSysIdFile()
 }
 
 /*
- * defect 10966 
+ * defect 10966
  * This routine sets up the buffers for the VL_RegisterAddrs RPC. All addresses
  * in FS_HostAddrs[] are in NBO, while the RPC treats them as a "blob" of data
- * and so we need to convert each of them into HBO which is what the extra 
+ * and so we need to convert each of them into HBO which is what the extra
  * array called FS_HostAddrs_HBO is used here.
  */
-afs_int32
-Do_VLRegisterRPC()
+static afs_int32
+Do_VLRegisterRPC(void)
 {
-    register int code;
+    int code;
     bulkaddrs addrs;
-    extern int VL_RegisterAddrs();
     afs_uint32 FS_HostAddrs_HBO[ADDRSPERSITE];
     int i = 0;
 
@@ -1774,6 +1884,7 @@ Do_VLRegisterRPC()
            ViceLog(0,
                    ("VL_RegisterAddrs rpc failed; will retry periodically (code=%d, err=%d)\n",
                     code, errno));
+           FS_registered = 1;  /* Retry in the gc daemon */
        }
     } else {
        FS_registered = 2;      /* So we don't have to retry in the gc daemon */
@@ -1784,16 +1895,14 @@ Do_VLRegisterRPC()
 }
 
 afs_int32
-SetupVL()
+SetupVL(void)
 {
     afs_int32 code;
-    extern int rxi_numNetAddrs;
-    extern afs_uint32 rxi_NetAddrs[];
 
     if (AFSDIR_SERVER_NETRESTRICT_FILEPATH || AFSDIR_SERVER_NETINFO_FILEPATH) {
        /*
-        * Find addresses we are supposed to register as per the netrestrict 
-        * and netinfo files (/usr/afs/local/NetInfo and 
+        * Find addresses we are supposed to register as per the netrestrict
+        * and netinfo files (/usr/afs/local/NetInfo and
         * /usr/afs/local/NetRestict)
         */
        char reason[1024];
@@ -1813,13 +1922,13 @@ SetupVL()
 
     if (FS_HostAddr_cnt == 1 && rxBind == 1)
        code = FS_HostAddrs[0];
-    else 
+    else
        code = htonl(INADDR_ANY);
     return code;
 }
 
 afs_int32
-InitVL()
+InitVL(void)
 {
     afs_int32 code;
 
@@ -1859,7 +1968,8 @@ main(int argc, char *argv[])
 {
     afs_int32 code;
     char tbuffer[32];
-    struct rx_securityClass *sc[4];
+    struct rx_securityClass **securityClasses;
+    afs_int32 numClasses;
     struct rx_service *tservice;
 #ifdef AFS_PTHREAD_ENV
     pthread_t serverPid;
@@ -1875,6 +1985,7 @@ main(int argc, char *argv[])
     int curLimit;
     time_t t;
     afs_uint32 rx_bindhost;
+    VolumePackageOptions opts;
 
 #ifdef AFS_AIX32_ENV
     struct sigaction nsa;
@@ -1896,16 +2007,15 @@ main(int argc, char *argv[])
                argv[0]);
        exit(2);
     }
-#ifndef AFS_QUIETFS_ENV
-    console = afs_fopen("/dev/console", "w");
-#endif
+    /* set ihandle package defaults prior to parsing args */
+    ih_PkgDefaults();
 
     if (ParseArgs(argc, argv)) {
        FlagMsg();
        exit(-1);
     }
 #ifdef AFS_PTHREAD_ENV
-    assert(pthread_mutex_init(&fileproc_glock_mutex, NULL) == 0);
+    MUTEX_INIT(&fileproc_glock_mutex, "fileproc", MUTEX_DEFAULT, 0);
 #endif /* AFS_PTHREAD_ENV */
 
 #ifdef AFS_SGI_VNODE_GLUE
@@ -1935,11 +2045,7 @@ main(int argc, char *argv[])
        ViceLog(0, ("Both -spare and -pctspare specified, exiting.\n"));
        exit(-1);
     }
-#ifdef AFS_SGI_XFS_IOPS_ENV
-    ViceLog(0, ("XFS/EFS File server starting\n"));
-#else
-    ViceLog(0, ("File server starting\n"));
-#endif
+    LogCommandLine(argc, argv, "starting", "", "File server", FSLog);
 
 #if defined(AFS_PTHREAD_ENV) && !defined(AFS_NT40_ENV)
     /* initialize the pthread soft signal handler thread */
@@ -1960,7 +2066,10 @@ main(int argc, char *argv[])
     nice(-5);                  /* TODO: */
 #endif
 #endif
-    assert(DInit(buffs) == 0);
+    osi_Assert(DInit(buffs) == 0);
+#ifdef AFS_DEMAND_ATTACH_FS
+    FS_STATE_INIT;
+#endif
 
 #ifdef AFS_NT40_ENV
     if (afs_winsockInit() < 0) {
@@ -1971,8 +2080,8 @@ main(int argc, char *argv[])
 #endif
     CheckAdminName();
 
-    /* if we support more than 16 threads, then we better have the ability 
-     ** to keep open a large number of files simultaneously 
+    /* if we support more than 16 threads, then we better have the ability
+     ** to keep open a large number of files simultaneously
      */
 #if    defined(AFS_AIX_ENV) && !defined(AFS_AIX42_ENV)
     curLimit = OPEN_MAX;       /* for pre AIX 4.2 systems */
@@ -2000,12 +2109,17 @@ main(int argc, char *argv[])
            lwps = curLimit;
        else if (lwps > 16)
            lwps = 16;          /* default to a maximum of 16 threads */
+
+        /* tune the ihandle fd cache accordingly */
+        if (vol_io_params.fd_max_cachesize < curLimit)
+            vol_io_params.fd_max_cachesize = curLimit + 1;
+
        ViceLog(0,
-               ("The system supports a max of %d open files and we are starting %d threads\n",
-                curLimit, lwps));
+               ("The system supports a max of %d open files and we are starting %d threads (ihandle fd cache is %d)\n",
+                curLimit, lwps, vol_io_params.fd_max_cachesize));
     }
 #ifndef AFS_PTHREAD_ENV
-    assert(LWP_InitializeProcessSupport(LWP_MAX_PRIORITY - 2, &parentPid) ==
+    osi_Assert(LWP_InitializeProcessSupport(LWP_MAX_PRIORITY - 2, &parentPid) ==
           LWP_SUCCESS);
 #endif /* !AFS_PTHREAD_ENV */
 
@@ -2059,16 +2173,14 @@ main(int argc, char *argv[])
     }
     rx_GetIFInfo();
     rx_SetRxDeadTime(30);
-    sc[0] = rxnull_NewServerSecurityObject();
-    sc[1] = 0;                 /* rxvab_NewServerSecurityObject(key1, 0) */
-    sc[2] = rxkad_NewServerSecurityObject(rxkad_clear, NULL, get_key, NULL);
-    sc[3] = rxkad_NewServerSecurityObject(rxkad_crypt, NULL, get_key, NULL);
-    tservice = rx_NewServiceHost(rx_bindhost,  /* port */ 0, /* service id */ 
+    afsconf_SetSecurityFlags(confDir, AFSCONF_SECOPTS_ALWAYSENCRYPT);
+    afsconf_BuildServerSecurityObjects(confDir, &securityClasses, &numClasses);
+
+    tservice = rx_NewServiceHost(rx_bindhost,  /* port */ 0, /* service id */
                                 1,     /*service name */
                                 "AFS",
-                                /* security classes */ sc,
-                                /* numb sec classes */
-                                4, RXAFS_ExecuteRequest);
+                                securityClasses, numClasses,
+                                RXAFS_ExecuteRequest);
     if (!tservice) {
        ViceLog(0,
                ("Failed to initialize RX, probably two servers running.\n"));
@@ -2084,8 +2196,8 @@ main(int argc, char *argv[])
     rx_SetServerIdleDeadErr(tservice, VNOSERVICE);
 
     tservice =
-       rx_NewService(0, RX_STATS_SERVICE_ID, "rpcstats", sc, 4,
-                     RXSTATS_ExecuteRequest);
+       rx_NewService(0, RX_STATS_SERVICE_ID, "rpcstats", securityClasses,
+                     numClasses, RXSTATS_ExecuteRequest);
     if (!tservice) {
        ViceLog(0, ("Failed to initialize rpc stat service.\n"));
        exit(-1);
@@ -2115,13 +2227,13 @@ main(int argc, char *argv[])
     ClearXStatValues();
 
     code = InitVL();
-    if (code) {
+    if (code && code != VL_MULTIPADDR) {
        ViceLog(0, ("Fatal error in library initialization, exiting!!\n"));
        exit(1);
     }
 
     code = InitPR();
-    if (code) {
+    if (code && code != -1) {
        ViceLog(0, ("Fatal error in protection initialization, exiting!!\n"));
        exit(1);
     }
@@ -2129,13 +2241,11 @@ main(int argc, char *argv[])
     /* allow super users to manage RX statistics */
     rx_SetRxStatUserOk(fs_rxstat_userok);
 
-#ifdef AFS_PTHREAD_ENV
-    assert(pthread_cond_init(&fsync_cond, NULL) == 0);
-    assert(pthread_mutex_init(&fsync_glock_mutex, NULL) == 0);
-#endif
+    CV_INIT(&fsync_cond, "fsync", CV_DEFAULT, 0);
+    MUTEX_INIT(&fsync_glock_mutex, "fsync", MUTEX_DEFAULT, 0);
 
 #if !defined(AFS_DEMAND_ATTACH_FS)
-    /* 
+    /*
      * For DAFS, we do not start the Rx server threads until after
      * the volume package is initialized, and fileserver state is
      * restored.  This is necessary in order to keep host and callback
@@ -2148,11 +2258,11 @@ main(int argc, char *argv[])
 #endif
 
     /* we ensure that there is enough space in the vnode buffer to satisfy
-     ** requests from all concurrent threads. 
+     ** requests from all concurrent threads.
      ** the maximum number of vnodes used by a single thread at any one time
      ** is three ( "link" uses three vnodes simultaneously, one vLarge and
      ** two vSmall for linking files and two vLarge and one vSmall for linking
-     ** files  ) : dhruba 
+     ** files  ) : dhruba
      */
     minVnodesRequired = 2 * lwps + 1;
     if (minVnodesRequired > nSmallVns) {
@@ -2168,10 +2278,44 @@ main(int argc, char *argv[])
 
     /* We now do this after getting the listener up and running, so that client
      * connections don't timeout (maybe) if a file server is restarted, since it
-     * will be available "real soon now".  Worry about whether we can satisfy the 
+     * will be available "real soon now".  Worry about whether we can satisfy the
      * calls in the volume package itself.
      */
-    if (VInitVolumePackage(fileServer, large, nSmallVns, 0, volcache)) {
+    VOptDefaults(fileServer, &opts);
+    opts.nLargeVnodes = large;
+    opts.nSmallVnodes = nSmallVns;
+    opts.volcache = volcache;
+    opts.unsafe_attach = unsafe_attach;
+    if (offline_timeout != -1) {
+       opts.interrupt_rxcall = rx_InterruptCall;
+       opts.offline_timeout = offline_timeout;
+    }
+    if (offline_shutdown_timeout == -1) {
+       /* default to -offline-timeout, if shutdown-specific timeout is not
+        * specified */
+       opts.offline_shutdown_timeout = offline_timeout;
+    } else {
+       opts.interrupt_rxcall = rx_InterruptCall;
+       opts.offline_shutdown_timeout = offline_shutdown_timeout;
+    }
+
+    if (VInitVolumePackage2(fileServer, &opts)) {
+       ViceLog(0,
+               ("Shutting down: errors encountered initializing volume package\n"));
+       VShutdown();
+       exit(1);
+    }
+
+    /* Install handler to catch the shutdown signal;
+     * bosserver assumes SIGQUIT shutdown
+     */
+#if defined(AFS_PTHREAD_ENV) && !defined(AFS_NT40_ENV)
+    softsig_signal(SIGQUIT, ShutDown_Signal);
+#else
+    (void)signal(SIGQUIT, ShutDown_Signal);
+#endif
+
+    if (VInitAttachVolumes(fileServer)) {
        ViceLog(0,
                ("Shutting down: errors encountered initializing volume package\n"));
        VShutdown();
@@ -2196,44 +2340,33 @@ main(int argc, char *argv[])
 
 #ifdef AFS_PTHREAD_ENV
     ViceLog(5, ("Starting pthreads\n"));
-#ifdef AFS_DEMAND_ATTACH_FS
-    FS_STATE_INIT;
-#endif
-    assert(pthread_attr_init(&tattr) == 0);
-    assert(pthread_attr_setdetachstate(&tattr, PTHREAD_CREATE_DETACHED) == 0);
+    osi_Assert(pthread_attr_init(&tattr) == 0);
+    osi_Assert(pthread_attr_setdetachstate(&tattr, PTHREAD_CREATE_DETACHED) == 0);
 
-    assert(pthread_create
+    osi_Assert(pthread_create
           (&serverPid, &tattr, FiveMinuteCheckLWP,
            &fiveminutes) == 0);
-    assert(pthread_create
+    osi_Assert(pthread_create
           (&serverPid, &tattr, HostCheckLWP, &fiveminutes) == 0);
-    assert(pthread_create
+    osi_Assert(pthread_create
           (&serverPid, &tattr, FsyncCheckLWP, &fiveminutes) == 0);
 #else /* AFS_PTHREAD_ENV */
     ViceLog(5, ("Starting LWP\n"));
-    assert(LWP_CreateProcess
+    osi_Assert(LWP_CreateProcess
           (FiveMinuteCheckLWP, stack * 1024, LWP_MAX_PRIORITY - 2,
            (void *)&fiveminutes, "FiveMinuteChecks",
            &serverPid) == LWP_SUCCESS);
 
-    assert(LWP_CreateProcess
+    osi_Assert(LWP_CreateProcess
           (HostCheckLWP, stack * 1024, LWP_MAX_PRIORITY - 2,
            (void *)&fiveminutes, "HostCheck", &serverPid) == LWP_SUCCESS);
-    assert(LWP_CreateProcess
+    osi_Assert(LWP_CreateProcess
           (FsyncCheckLWP, stack * 1024, LWP_MAX_PRIORITY - 2,
            (void *)&fiveminutes, "FsyncCheck", &serverPid) == LWP_SUCCESS);
 #endif /* AFS_PTHREAD_ENV */
 
     FT_GetTimeOfDay(&tp, 0);
 
-#ifndef AFS_QUIETFS_ENV
-    if (console != NULL) { 
-        time_t t = tp.tv_sec;
-       fprintf(console, "File server has started at %s\r",
-               afs_ctime(&t, tbuffer, sizeof(tbuffer)));
-    }
-#endif
-
     /*
      * Figure out the FileServer's name and primary address.
      */
@@ -2258,15 +2391,6 @@ main(int argc, char *argv[])
                 FS_HostName, hoststr, FS_HostAddr_NBO, FS_HostAddr_HBO));
     }
 
-    /* Install handler to catch the shutdown signal;
-     * bosserver assumes SIGQUIT shutdown
-     */
-#if defined(AFS_PTHREAD_ENV) && !defined(AFS_NT40_ENV)
-    softsig_signal(SIGQUIT, ShutDown_Signal);
-#else
-    (void)signal(SIGQUIT, ShutDown_Signal);
-#endif
-
     t = tp.tv_sec;
     ViceLog(0,
            ("File Server started %s",
@@ -2279,7 +2403,7 @@ main(int argc, char *argv[])
        sleep(1000);            /* long time */
     }
 #else /* AFS_PTHREAD_ENV */
-    assert(LWP_WaitProcess(&parentPid) == LWP_SUCCESS);
+    osi_Assert(LWP_WaitProcess(&parentPid) == LWP_SUCCESS);
 #endif /* AFS_PTHREAD_ENV */
     return 0;
 }