a26676a04aac74fd62dd52f4b6ff89b135a121dc
[openafs.git] / src / viced / viced.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  *
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  *
9  * Portions Copyright (c) 2006 Sine Nomine Associates
10  */
11
12 /*  viced.c     - File Server main loop                                  */
13 /*                                                                       */
14 /*  Date: 5/1/85                                                         */
15 /*                                                                       */
16 /*  Function    - This routine has the initialization code for           */
17 /*                FileServer II                                          */
18 /*                                                                       */
19 /* ********************************************************************** */
20
21 #include <afsconfig.h>
22 #include <afs/param.h>
23 #include <afs/stds.h>
24
25 #include <afs/procmgmt.h>
26 #include <roken.h>
27
28 #ifdef AFS_NT40_ENV
29 # include <windows.h>
30 # include <WINNT/afsevent.h>
31 #endif
32
33 #ifdef HAVE_SYS_FILE_H
34 # include <sys/file.h>
35 #endif
36
37 #ifdef HAVE_SYS_RESOURCE_H
38 # include <sys/resource.h>
39 #endif
40
41 #undef SHARED
42
43 #include <afs/opr.h>
44 #include <afs/nfs.h>
45 #include <rx/rx_queue.h>
46 #include <lwp.h>
47 #include <opr/lock.h>
48 #include <opr/proc.h>
49 #include <opr/softsig.h>
50 #include <afs/procmgmt_softsig.h> /* must come after softsig.h */
51 #include <afs/cmd.h>
52 #include <afs/ptclient.h>
53 #include <afs/afsint.h>
54 #include <afs/vldbint.h>
55 #include <afs/errors.h>
56 #include <afs/ihandle.h>
57 #include <afs/vnode.h>
58 #include <afs/volume.h>
59 #include <afs/auth.h>
60 #include <afs/cellconfig.h>
61 #include <afs/acl.h>
62 #include <afs/prs_fs.h>
63 #include <rx/rx.h>
64 #include <rx/rxstat.h>
65 #include <afs/keys.h>
66 #include <afs/afs_args.h>
67 #include <afs/vlserver.h>
68 #include <afs/afsutil.h>
69 #include <afs/fileutil.h>
70 #include <afs/ptuser.h>
71 #include <afs/audit.h>
72 #include <afs/partition.h>
73 #include <afs/dir.h>
74 #include <afs/afsutil.h>
75 #include "viced_prototypes.h"
76 #include "viced.h"
77 #include "host.h"
78 #if defined(AFS_SGI_ENV)
79 # include "sys/schedctl.h"
80 # include "sys/lock.h"
81 #endif
82 #include <rx/rx_globals.h>
83
84 extern int etext;
85
86 static void ClearXStatValues(void);
87 static void PrintCounters(void);
88
89 static afs_int32 Do_VLRegisterRPC(void);
90
91 int eventlog = 0, rxlog = 0;
92 FILE *debugFile;
93 static struct logOptions logopts;
94
95 pthread_mutex_t fsync_glock_mutex;
96 pthread_cond_t fsync_cond;
97
98 #ifdef AFS_NT40_ENV
99 # define NT_OPEN_MAX    1024    /* This is an arbitrary no. we came up with for
100                                  * now. We hope this will be replaced by a more
101                                  * intelligent estimate later. */
102 #endif
103
104 int SystemId;                   /* ViceID of "Administrators" */
105 int SystemAnyUser;              /* Viceid of "System:AnyUser" */
106 prlist SystemAnyUserCPS;        /* CPS for "system:AnyUser */
107 int AnonymousID = 0;            /* ViceId of "Anonymous" */
108 prlist AnonCPS;                 /* CPS for "Anonymous" */
109
110 struct afsconf_dir *confDir;    /* Configuration dir object */
111
112 int restartMode = RESTART_ORDINARY;
113
114 /*
115  * Home for the performance statistics.
116  */
117 struct afs_PerfStats afs_perfstats;
118
119 extern int Statistics;
120
121 int busyonrst = 1;
122 int timeout = 30;
123 int printBanner = 0;
124 int rxJumbograms = 0;           /* default is to not send and receive jumbograms. */
125 int rxBind = 0;         /* don't bind */
126 int rxkadDisableDotCheck = 0;      /* disable check for dot in principal name */
127 int rxMaxMTU = -1;
128 afs_int32 implicitAdminRights = PRSFS_LOOKUP;   /* The ADMINISTER right is
129                                                  * already implied */
130 afs_int32 readonlyServer = 0;
131
132 int stackSize = 24000;
133 int fiveminutes = 300;          /* 5 minutes.  Change this for debugging only */
134 int CurrentConnections = 0;
135 int hostaclRefresh = 7200;      /* refresh host clients' acls every 2 hrs */
136 #if defined(AFS_SGI_ENV)
137 int SawLock;
138 #endif
139 time_t StartTime;
140
141 /**
142  * seconds to wait until forcing a panic during ShutDownAndCore(PANIC)
143  * in case we get stuck.
144  */
145 #ifdef AFS_DEMAND_ATTACH_FS
146 static int panic_timeout = 2 * 60;
147 #else
148 static int panic_timeout = 30 * 60;
149 #endif
150
151 static int host_thread_quota;
152 int rxpackets = 150;            /* 100 */
153 int nSmallVns = 400;            /* 200 */
154 int large = 400;                /* 200 */
155 int volcache = 400;             /* 400 */
156 int numberofcbs = 60000;        /* 60000 */
157 int lwps = 9;                   /* 6 */
158 int buffs = 90;                 /* 70 */
159 int novbc = 0;                  /* Enable Volume Break calls */
160 int busy_threshold = 600;
161 int abort_threshold = 10;
162 int udpBufSize = 0;             /* UDP buffer size for receive */
163 int sendBufSize = 16384;        /* send buffer size */
164 int saneacls = 0;               /* Sane ACLs Flag */
165 static int unsafe_attach = 0;   /* avoid inUse check on vol attach? */
166 static int offline_timeout = -1; /* -offline-timeout option */
167 static int offline_shutdown_timeout = -1; /* -offline-shutdown-timeout option */
168
169 struct timeval tp;
170
171 pthread_key_t viced_uclient_key;
172
173 /*
174  * FileServer's name and IP address, both network byte order and
175  * host byte order.
176  */
177 #define ADDRSPERSITE 16         /* Same global is in rx/rx_user.c */
178
179 char FS_HostName[128] = "localhost";
180 char *FS_configPath = NULL;
181 afs_uint32 FS_HostAddr_NBO;
182 afs_uint32 FS_HostAddr_HBO;
183 afs_uint32 FS_HostAddrs[ADDRSPERSITE], FS_HostAddr_cnt = 0, FS_registered = 0;
184 /* All addresses in FS_HostAddrs are in NBO */
185 afsUUID FS_HostUUID;
186
187 #ifdef AFS_DEMAND_ATTACH_FS
188 /*
189  * demand attach fs
190  * fileserver mode support
191  *
192  * during fileserver shutdown, we have to track the graceful shutdown of
193  * certain background threads before we are allowed to dump state to
194  * disk
195  */
196
197 # if !defined(PTHREAD_RWLOCK_INITIALIZER) && defined(AFS_DARWIN80_ENV)
198 #  define PTHREAD_RWLOCK_INITIALIZER {0x2DA8B3B4, {0}}
199 # endif
200
201 # ifndef AFS_NT40_ENV
202 struct fs_state fs_state =
203     { FS_MODE_NORMAL,
204       0,
205       0,
206       0,
207       0,
208       { 1,1,1,1 },
209       PTHREAD_COND_INITIALIZER,
210       PTHREAD_RWLOCK_INITIALIZER
211     };
212 # else /* AFS_NT40_ENV */
213 struct fs_state fs_state;
214
215 static int fs_stateInit(void)
216 {
217     fs_state.mode = FS_MODE_NORMAL;
218     fs_state.FiveMinuteLWP_tranquil = 0;
219     fs_state.HostCheckLWP_tranquil = 0;
220     fs_state.FsyncCheckLWP_tranquil = 0;
221     fs_state.salvsync_fatal_error = 0;
222
223     fs_state.options.fs_state_save = 1;
224     fs_state.options.fs_state_restore = 1;
225     fs_state.options.fs_state_verify_before_save = 1;
226     fs_state.options.fs_state_verify_after_restore = 1;
227
228     opr_cv_init(&fs_state.worker_done_cv, "worker done");
229     opr_Verify(pthread_rwlock_init(&fs_state.state_lock, NULL) == 0);
230 }
231 # endif /* AFS_NT40_ENV */
232 #endif /* AFS_DEMAND_ATTACH_FS */
233
234 /*
235  * Home for the performance statistics.
236  */
237
238 /* DEBUG HACK */
239 #ifndef AFS_NT40_ENV
240 void
241 CheckDescriptors_Signal(int signo)
242 {
243     struct afs_stat status;
244     int tsize = getdtablesize();
245     int i;
246     for (i = 0; i < tsize; i++) {
247         if (afs_fstat(i, &status) != -1) {
248             printf("%d: dev %x, inode %u, length %u, type/mode %x\n", i,
249                    (unsigned int) status.st_dev,
250                    (unsigned int) status.st_ino,
251                    (unsigned int) status.st_size,
252                    status.st_mode);
253         }
254     }
255     fflush(stdout);
256 }
257 #endif
258
259 /* Signal number for dumping debug info is platform dependent. */
260 #if defined(AFS_HPUX_ENV)
261 # define AFS_SIG_CHECK    SIGPOLL
262 #elif defined(AFS_NT40_ENV)
263 # define AFS_SIG_CHECK    SIGUSR2
264 #else
265 # define AFS_SIG_CHECK    SIGXCPU
266 #endif
267 void
268 CheckSignal_Signal(int x)
269 {
270     if (FS_registered > 0) {
271         /*
272          * We have proper ip addresses; tell the vlserver what we got; the following
273          * routine will do the proper reporting for us
274          */
275         Do_VLRegisterRPC();
276     }
277     h_DumpHosts();
278     h_PrintClients();
279     DumpCallBackState();
280     PrintCounters();
281 }
282
283 void
284 ShutDown_Signal(int x)
285 {
286     ShutDownAndCore(DONTPANIC);
287 }
288
289 /* check whether caller is authorized to perform admin operations */
290 int
291 viced_SuperUser(struct rx_call *call)
292 {
293     return afsconf_SuperUser(confDir, call, NULL);
294 }
295
296 /**
297  * Return true if this name is a member of the local realm.
298  */
299 int
300 fs_IsLocalRealmMatch(void *rock, char *name, char *inst, char *cell)
301 {
302     struct afsconf_dir *dir = (struct afsconf_dir *)rock;
303     afs_int32 islocal = 0;      /* default to no */
304     int code;
305
306     code = afsconf_IsLocalRealmMatch(dir, &islocal, name, inst, cell);
307     if (code) {
308         ViceLog(0,
309                 ("Failed local realm check; code=%d, name=%s, inst=%s, cell=%s\n",
310                  code, name, inst, cell));
311     }
312     return islocal;
313 }
314
315 #if defined(AFS_NT40_ENV)
316 /* no viced_syscall */
317 #elif defined(AFS_DARWIN160_ENV)
318 /* no viced_syscall */
319 #elif !defined(AFS_SYSCALL)
320 int
321 viced_syscall(afs_uint32 a3, afs_uint32 a4, void *a5)
322 {
323     errno = ENOSYS;
324     return -1;
325 }
326 #else
327 int
328 viced_syscall(afs_uint32 a3, afs_uint32 a4, void *a5)
329 {
330     afs_uint32 rcode;
331 # ifndef AFS_LINUX20_ENV
332     void (*old) (int);
333
334     old = (void (*)(int))signal(SIGSYS, SIG_IGN);
335 # endif
336     rcode = syscall(AFS_SYSCALL, 28 /* AFSCALL_CALL */ , a3, a4, a5);
337 # ifndef AFS_LINUX20_ENV
338     signal(SIGSYS, old);
339 # endif
340
341     return rcode;
342 }
343 #endif
344
345 #if !defined(AFS_NT40_ENV)
346 # include "AFS_component_version_number.c"
347 #endif /* !AFS_NT40_ENV */
348
349 #define MAXADMINNAME 64
350 char adminName[MAXADMINNAME];
351
352 static void
353 CheckAdminName(void)
354 {
355     int fd = -1;
356     struct afs_stat status;
357
358     if ((afs_stat("/AdminName", &status)) ||    /* if file does not exist */
359         (status.st_size <= 0) ||        /* or it is too short */
360         (status.st_size >= (MAXADMINNAME)) ||   /* or it is too long */
361         (fd = afs_open("/AdminName", O_RDONLY, 0)) < 0 || /* or open fails */
362         read(fd, adminName, status.st_size) != status.st_size) { /* or read */
363
364         strcpy(adminName, "System:Administrators");     /* use the default name */
365     }
366     if (fd >= 0)
367         close(fd);              /* close fd if it was opened */
368
369 }                               /*CheckAdminName */
370
371
372 static void
373 setThreadId(char *s)
374 {
375 #if !defined(AFS_NT40_ENV)
376     int threadId;
377
378     /* set our 'thread-id' so that the host hold table works */
379     threadId = rx_SetThreadNum();
380     afs_pthread_setname_self(s);
381     ViceLog(0, ("Set thread id 0x%x for '%s'\n", threadId, s));
382 #endif
383 }
384
385 /* This LWP does things roughly every 5 minutes */
386 static void *
387 FiveMinuteCheckLWP(void *unused)
388 {
389     static int msg = 0;
390     char tbuffer[32];
391
392     ViceLog(1, ("Starting five minute check process\n"));
393     setThreadId("FiveMinuteCheckLWP");
394
395 #ifdef AFS_DEMAND_ATTACH_FS
396     FS_STATE_WRLOCK;
397     while (fs_state.mode == FS_MODE_NORMAL) {
398         fs_state.FiveMinuteLWP_tranquil = 1;
399         FS_STATE_UNLOCK;
400 #else
401     while (1) {
402 #endif
403
404         sleep(fiveminutes);
405
406 #ifdef AFS_DEMAND_ATTACH_FS
407         FS_STATE_WRLOCK;
408         if (fs_state.mode != FS_MODE_NORMAL) {
409             break;
410         }
411         fs_state.FiveMinuteLWP_tranquil = 0;
412         FS_STATE_UNLOCK;
413 #endif
414
415         /* close the log so it can be removed */
416         ReOpenLog();    /* don't trunc, just append */
417         ViceLog(2, ("Cleaning up timed out callbacks\n"));
418         if (CleanupTimedOutCallBacks())
419             ViceLog(5, ("Timed out callbacks deleted\n"));
420         ViceLog(2, ("Set disk usage statistics\n"));
421         VSetDiskUsage();
422         if (FS_registered == 1)
423             Do_VLRegisterRPC();
424         /* Force wakeup in case we missed something; pthreads does timedwait */
425         if (printBanner && (++msg & 1)) {       /* Every 10 minutes */
426             time_t now = time(NULL);
427             struct tm tm;
428             strftime(tbuffer, sizeof(tbuffer), "%a %b %d %H:%M:%S %Y",
429                      localtime_r(&now, &tm));
430             ViceLog(2,
431                     ("File server is running at %s\n", tbuffer));
432         }
433 #ifdef AFS_DEMAND_ATTACH_FS
434         FS_STATE_WRLOCK;
435 #endif
436     }
437 #ifdef AFS_DEMAND_ATTACH_FS
438     fs_state.FiveMinuteLWP_tranquil = 1;
439     FS_LOCK;
440     opr_cv_broadcast(&fs_state.worker_done_cv);
441     FS_UNLOCK;
442     FS_STATE_UNLOCK;
443     return NULL;
444 #else
445     AFS_UNREACHED(return(NULL));
446 #endif
447 }                               /*FiveMinuteCheckLWP */
448
449
450 /* This LWP does host checks every 5 minutes:  it should not be used for
451  * other 5 minute activities because it may be delayed by timeouts when
452  * it probes the workstations
453  */
454
455 static void *
456 HostCheckLWP(void *unused)
457 {
458     ViceLog(1, ("Starting Host check process\n"));
459     setThreadId("HostCheckLWP");
460 #ifdef AFS_DEMAND_ATTACH_FS
461     FS_STATE_WRLOCK;
462     while (fs_state.mode == FS_MODE_NORMAL) {
463         fs_state.HostCheckLWP_tranquil = 1;
464         FS_STATE_UNLOCK;
465 #else
466     while(1) {
467 #endif
468
469         sleep(fiveminutes);
470
471 #ifdef AFS_DEMAND_ATTACH_FS
472         FS_STATE_WRLOCK;
473         if (fs_state.mode != FS_MODE_NORMAL) {
474             break;
475         }
476         fs_state.HostCheckLWP_tranquil = 0;
477         FS_STATE_UNLOCK;
478 #endif
479
480         ViceLog(2, ("Checking for dead venii & clients\n"));
481         h_CheckHosts();
482
483 #ifdef AFS_DEMAND_ATTACH_FS
484         FS_STATE_WRLOCK;
485 #endif
486     }
487 #ifdef AFS_DEMAND_ATTACH_FS
488     fs_state.HostCheckLWP_tranquil = 1;
489     FS_LOCK;
490     opr_cv_broadcast(&fs_state.worker_done_cv);
491     FS_UNLOCK;
492     FS_STATE_UNLOCK;
493     return NULL;
494 #else
495     AFS_UNREACHED(return(NULL));
496 #endif
497 }                               /*HostCheckLWP */
498
499 /* This LWP does fsync checks every 5 minutes:  it should not be used for
500  * other 5 minute activities because it may be delayed by timeouts when
501  * it probes the workstations
502  */
503 static void *
504 FsyncCheckLWP(void *unused)
505 {
506     afs_int32 code;
507     struct timespec fsync_next;
508     ViceLog(1, ("Starting fsync check process\n"));
509
510     setThreadId("FsyncCheckLWP");
511
512 #ifdef AFS_DEMAND_ATTACH_FS
513     FS_STATE_WRLOCK;
514     while (fs_state.mode == FS_MODE_NORMAL) {
515         fs_state.FsyncCheckLWP_tranquil = 1;
516         FS_STATE_UNLOCK;
517 #else
518     while(1) {
519 #endif
520         FSYNC_LOCK;
521         /* rounding is fine */
522         fsync_next.tv_nsec = 0;
523         fsync_next.tv_sec = time(0) + fiveminutes;
524
525         code = opr_cv_timedwait(&fsync_cond, &fsync_glock_mutex,
526                             &fsync_next);
527         if (code != 0 && code != ETIMEDOUT)
528             ViceLog(0, ("pthread_cond_timedwait returned %d\n", code));
529         FSYNC_UNLOCK;
530
531 #ifdef AFS_DEMAND_ATTACH_FS
532         FS_STATE_WRLOCK;
533         if (fs_state.mode != FS_MODE_NORMAL) {
534             break;
535         }
536         fs_state.FsyncCheckLWP_tranquil = 0;
537         FS_STATE_UNLOCK;
538 #endif /* AFS_DEMAND_ATTACH_FS */
539
540         ViceLog(2, ("Checking for fsync events\n"));
541         do {
542             code = BreakLaterCallBacks();
543         } while (code != 0);
544 #ifdef AFS_DEMAND_ATTACH_FS
545         FS_STATE_WRLOCK;
546 #endif
547     }
548 #ifdef AFS_DEMAND_ATTACH_FS
549     fs_state.FsyncCheckLWP_tranquil = 1;
550     FS_LOCK;
551     opr_cv_broadcast(&fs_state.worker_done_cv);
552     FS_UNLOCK;
553     FS_STATE_UNLOCK;
554     return NULL;
555 #else
556     AFS_UNREACHED(return(NULL));
557 #endif /* !AFS_DEMAND_ATTACH_FS */
558 }
559
560 /*------------------------------------------------------------------------
561  * PRIVATE ClearXStatValues
562  *
563  * Description:
564  *      Initialize all of the values collected via the xstat
565  *      interface.
566  *
567  * Arguments:
568  *      None.
569  *
570  * Returns:
571  *      Nothing.
572  *
573  * Environment:
574  *      Must be called during File Server initialization.
575  *
576  * Side Effects:
577  *      As advertised.
578  *------------------------------------------------------------------------*/
579
580 static void
581 ClearXStatValues(void)
582 {                               /*ClearXStatValues */
583
584     struct fs_stats_opTimingData *opTimeP;      /*Ptr to timing struct */
585     struct fs_stats_xferData *opXferP;  /*Ptr to xfer struct */
586     int i;                      /*Loop counter */
587
588     /*
589      * Zero all xstat-related structures.
590      */
591     memset((&afs_perfstats), 0, sizeof(struct afs_PerfStats));
592     memset((&afs_FullPerfStats), 0,
593            sizeof(struct fs_stats_FullPerfStats));
594
595     /*
596      * That's not enough.  We have to set reasonable minima for
597      * time and xfer values in the detailed stats.
598      */
599     opTimeP = &(afs_FullPerfStats.det.rpcOpTimes[0]);
600     for (i = 0; i < FS_STATS_NUM_RPC_OPS; i++, opTimeP++)
601         opTimeP->minTime.tv_sec = 999999;
602
603     opXferP = &(afs_FullPerfStats.det.xferOpTimes[0]);
604     for (i = 0; i < FS_STATS_NUM_XFER_OPS; i++, opXferP++) {
605         opXferP->minTime.tv_sec = 999999;
606         opXferP->minBytes = 999999999;
607     }
608
609     /*
610      * There's more.  We have to set our unique system identifier, as
611      * declared in param.h.  If such a thing is not defined, we bitch
612      * and declare ourselves to be an unknown system type.
613      */
614 # ifdef SYS_NAME_ID
615     afs_perfstats.sysname_ID = SYS_NAME_ID;
616 # else
617 #  ifndef AFS_NT40_ENV
618     ViceLog(0, ("Sys name ID constant not defined in param.h!!\n"));
619     ViceLog(0, ("[Choosing ``undefined'' sys name ID.\n"));
620 #  endif
621     afs_perfstats.sysname_ID = SYS_NAME_ID_UNDEFINED;
622 # endif /* SYS_NAME_ID */
623
624 }                               /*ClearXStatValues */
625
626 int CopyOnWrite_calls = 0, CopyOnWrite_off0 = 0, CopyOnWrite_size0 = 0;
627 afs_fsize_t CopyOnWrite_maxsize = 0;
628
629 static void
630 PrintCounters(void)
631 {
632     int dirbuff, dircall, dirio;
633     struct timeval tpl;
634     int workstations, activeworkstations, delworkstations;
635     int processSize = 0;
636     char tbuffer[32];
637     struct tm tm;
638 #ifdef AFS_DEMAND_ATTACH_FS
639     int stats_flags = 0;
640 #endif
641
642     gettimeofday(&tpl, 0);
643     Statistics = 1;
644     strftime(tbuffer, sizeof(tbuffer), "%a %b %d %H:%M:%S %Y",
645              localtime_r(&StartTime, &tm));
646     ViceLog(0, ("Vice was last started at %s\n", tbuffer));
647
648 #ifdef AFS_DEMAND_ATTACH_FS
649     if (GetLogLevel() >= 125) {
650         stats_flags = VOL_STATS_PER_CHAIN2;
651     } else if (GetLogLevel() >= 25) {
652         stats_flags = VOL_STATS_PER_CHAIN;
653     }
654     VPrintExtendedCacheStats(stats_flags);
655 #endif
656     VPrintCacheStats();
657     VPrintDiskStats();
658     DStat(&dirbuff, &dircall, &dirio);
659     ViceLog(0,
660             ("With %d directory buffers; %d reads resulted in %d read I/Os\n",
661              dirbuff, dircall, dirio));
662     rx_PrintStats(stderr);
663     audit_PrintStats(stderr);
664     h_PrintStats();
665     PrintCallBackStats();
666     processSize = opr_procsize();
667     ViceLog(0,
668             ("There are %d connections, process size %d\n",
669              CurrentConnections, processSize));
670     h_GetWorkStats(&workstations, &activeworkstations, &delworkstations,
671                    tpl.tv_sec - 15 * 60);
672     ViceLog(0,
673             ("There are %d workstations, %d are active (req in < 15 mins), %d marked \"down\"\n",
674              workstations, activeworkstations, delworkstations));
675     ViceLog(0, ("CopyOnWrite: calls %d off0 %d size0 %d maxsize 0x%llx\n",
676                 CopyOnWrite_calls, CopyOnWrite_off0, CopyOnWrite_size0, CopyOnWrite_maxsize));
677
678     Statistics = 0;
679
680 }                               /*PrintCounters */
681
682 static void *
683 ShutdownWatchdogLWP(void *unused)
684 {
685     afs_pthread_setname_self("ShutdownWatchdog");
686     sleep(panic_timeout);
687     ViceLogThenPanic(0, ("ShutdownWatchdogLWP: Failed to shutdown and panic "
688                          "within %d seconds; forcing panic\n",
689                          panic_timeout));
690     return NULL;
691 }
692
693 void
694 ShutDownAndCore(int dopanic)
695 {
696     time_t now = time(NULL);
697     struct tm tm;
698     char tbuffer[32];
699
700     if (dopanic) {
701         pthread_t watchdogPid;
702         pthread_attr_t tattr;
703         opr_Verify(pthread_attr_init(&tattr) == 0);
704         opr_Verify(pthread_create(&watchdogPid, &tattr,
705                                   ShutdownWatchdogLWP, NULL) == 0);
706     }
707
708     /* do not allows new reqests to be served from now on, all new requests
709      * are returned with an error code of RX_RESTARTING ( transient failure ) */
710     rx_SetRxTranquil();         /* dhruba */
711
712     VSetTranquil();
713
714 #ifdef AFS_DEMAND_ATTACH_FS
715     FS_STATE_WRLOCK;
716     if (fs_state.mode == FS_MODE_SHUTDOWN) {
717         /* it is possible for at least fs_stateSave() (called below) to call
718          * ShutDownAndCore if there's host list corruption; prevent
719          * deinitializing some stuff twice */
720         ViceLog(0, ("ShutDownAndCore called during shutdown? Skipping volume "
721                     "and host package shutdown\n"));
722         FS_STATE_UNLOCK;
723         goto done_vol_host;
724     }
725     fs_state.mode = FS_MODE_SHUTDOWN;
726     FS_STATE_UNLOCK;
727 #endif
728
729     strftime(tbuffer, sizeof(tbuffer), "%a %b %d %H:%M:%S %Y",
730              localtime_r(&now, &tm));
731     ViceLog(0, ("Shutting down file server at %s\n", tbuffer));
732     if (dopanic)
733         ViceLog(0, ("ABNORMAL SHUTDOWN, see core file.\n"));
734     DFlush();
735     if (!dopanic)
736         PrintCounters();
737
738     /* shut down volume package */
739     VShutdown();
740
741 #ifdef AFS_DEMAND_ATTACH_FS
742     if (fs_state.options.fs_state_save) {
743         /*
744          * demand attach fs
745          * save fileserver state to disk */
746
747         if (dopanic) {
748             ViceLog(0, ("Not saving fileserver state; abnormal shutdown\n"));
749
750         } else {
751             /* make sure background threads have finished all of their asynchronous
752              * work on host and callback structures */
753             FS_STATE_RDLOCK;
754             while (!fs_state.FiveMinuteLWP_tranquil ||
755                    !fs_state.HostCheckLWP_tranquil ||
756                    !fs_state.FsyncCheckLWP_tranquil) {
757                 FS_LOCK;
758                 FS_STATE_UNLOCK;
759                 ViceLog(0, ("waiting for background host/callback threads to quiesce before saving fileserver state...\n"));
760                 opr_cv_wait(&fs_state.worker_done_cv, &fileproc_glock_mutex);
761                 FS_UNLOCK;
762                 FS_STATE_RDLOCK;
763             }
764             FS_STATE_UNLOCK;
765
766             /* ok. it should now be fairly safe. let's do the state dump */
767             fs_stateSave();
768         }
769     }
770  done_vol_host:
771
772 #endif /* AFS_DEMAND_ATTACH_FS */
773
774     if (debugFile) {
775         rx_PrintStats(debugFile);
776         fflush(debugFile);
777     }
778     now = time(0);
779     strftime(tbuffer, sizeof(tbuffer), "%a %b %d %H:%M:%S %Y",
780              localtime_r(&now, &tm));
781     if (dopanic) {
782       ViceLog(0, ("File server has terminated abnormally at %s\n", tbuffer));
783     } else {
784       ViceLog(0, ("File server has terminated normally at %s\n", tbuffer));
785     }
786
787     if (dopanic) /* XXX pass in file and line? */
788         osi_Panic("Panic requested\n");
789
790     exit(0);
791 }
792
793 static afs_int32
794 ParseRights(char *arights)
795 {
796     afs_int32 mode = 0;
797     int i, len;
798     char tc;
799
800     if (!arights || !strcmp(arights, "")) {
801         printf("Missing list of mode bits on -implicit option\n");
802         return -1;
803     }
804     if (!strcmp(arights, "none"))
805         mode = 0;
806     else if (!strcmp(arights, "read"))
807         mode = PRSFS_READ | PRSFS_LOOKUP;
808     else if (!strcmp(arights, "write"))
809         mode =
810             PRSFS_READ | PRSFS_LOOKUP | PRSFS_INSERT | PRSFS_DELETE |
811             PRSFS_WRITE | PRSFS_LOCK;
812     else if (!strcmp(arights, "all"))
813         mode =
814             PRSFS_READ | PRSFS_LOOKUP | PRSFS_INSERT | PRSFS_DELETE |
815             PRSFS_WRITE | PRSFS_LOCK | PRSFS_ADMINISTER;
816     else {
817         len = strlen(arights);
818         for (i = 0; i < len; i++) {
819             tc = *arights++;
820             if (tc == 'r')
821                 mode |= PRSFS_READ;
822             else if (tc == 'l')
823                 mode |= PRSFS_LOOKUP;
824             else if (tc == 'i')
825                 mode |= PRSFS_INSERT;
826             else if (tc == 'd')
827                 mode |= PRSFS_DELETE;
828             else if (tc == 'w')
829                 mode |= PRSFS_WRITE;
830             else if (tc == 'k')
831                 mode |= PRSFS_LOCK;
832             else if (tc == 'a')
833                 mode |= PRSFS_ADMINISTER;
834             else if (tc == 'A')
835                 mode |= PRSFS_USR0;
836             else if (tc == 'B')
837                 mode |= PRSFS_USR1;
838             else if (tc == 'C')
839                 mode |= PRSFS_USR2;
840             else if (tc == 'D')
841                 mode |= PRSFS_USR3;
842             else if (tc == 'E')
843                 mode |= PRSFS_USR4;
844             else if (tc == 'F')
845                 mode |= PRSFS_USR5;
846             else if (tc == 'G')
847                 mode |= PRSFS_USR6;
848             else if (tc == 'H')
849                 mode |= PRSFS_USR7;
850             else {
851                 printf("Illegal -implicit rights character '%c'.\n", tc);
852                 return -1;
853             }
854         }
855     }
856     return mode;
857 }
858
859 /*
860  * Limit MAX_FILESERVER_THREAD by the system limit on the number of
861  * pthreads (sysconf(_SC_THREAD_THREADS_MAX)), if applicable and
862  * available.
863  *
864  * AIX:         sysconf() limit is real
865  * HP-UX:       sysconf() limit is real
866  * IRIX:        sysconf() limit is apparently NOT real -- too small
867  * Linux:       sysconf() limit is apparently NOT real -- too big
868  * Solaris:     no sysconf() limit
869  */
870 static int
871 max_fileserver_thread(void)
872 {
873 #if defined(AFS_AIX_ENV) || defined(AFS_HPUX_ENV)
874     long ans;
875
876     ans = sysconf(_SC_THREAD_THREADS_MAX);
877     if (0 < ans && ans < MAX_FILESERVER_THREAD)
878         return (int)ans;
879 #endif
880     return MAX_FILESERVER_THREAD;
881 }
882
883 /* from ihandle.c */
884 extern ih_init_params vol_io_params;
885
886 enum optionsList {
887     OPT_large,
888     OPT_small,
889     OPT_banner,
890     OPT_implicit,
891     OPT_lock,
892     OPT_readonly,
893     OPT_saneacls,
894     OPT_buffers,
895     OPT_callbacks,
896     OPT_vcsize,
897     OPT_lvnodes,
898     OPT_svnodes,
899     OPT_sendsize,
900     OPT_minspare,
901     OPT_spare,
902     OPT_pctspare,
903     OPT_hostcpsrefresh,
904     OPT_vattachthreads,
905     OPT_abortthreshold,
906     OPT_busyat,
907     OPT_nobusy,
908     OPT_offline_timeout,
909     OPT_offline_shutdown_timeout,
910     OPT_vhandle_setaside,
911     OPT_vhandle_max_cachesize,
912     OPT_vhandle_initial_cachesize,
913     OPT_fs_state_dont_save,
914     OPT_fs_state_dont_restore,
915     OPT_fs_state_verify,
916     OPT_vhashsize,
917     OPT_vlrudisable,
918     OPT_vlruthresh,
919     OPT_vlruinterval,
920     OPT_vlrumax,
921     OPT_unsafe_nosalvage,
922     OPT_cbwait,
923     OPT_novbc,
924     OPT_auditlog,
925     OPT_auditiface,
926     OPT_config,
927     OPT_debug,
928     OPT_logfile,
929     OPT_mrafslogs,
930     OPT_threads,
931 #ifdef HAVE_SYSLOG
932     OPT_syslog,
933 #endif
934     OPT_peer,
935     OPT_process,
936     OPT_nojumbo,
937     OPT_jumbo,
938     OPT_rxbind,
939     OPT_rxdbg,
940     OPT_rxdbge,
941     OPT_rxpck,
942     OPT_rxmaxmtu,
943     OPT_udpsize,
944     OPT_dotted,
945     OPT_realm,
946     OPT_sync,
947     OPT_transarc_logs
948 };
949
950 static int
951 ParseArgs(int argc, char *argv[])
952 {
953     int code;
954     int optval;
955     char *optstring = NULL;
956     struct cmd_item *optlist;
957     struct cmd_syndesc *opts;
958
959     int lwps_max;
960     char *auditFileName = NULL;
961     char *sync_behavior = NULL;
962
963 #if defined(AFS_AIX32_ENV)
964     extern int aixlow_water;
965 #endif
966
967     opts = cmd_CreateSyntax(NULL, NULL, NULL, 0, NULL);
968
969     /* fileserver options */
970     cmd_AddParmAtOffset(opts, OPT_large, "-L", CMD_FLAG,
971                         CMD_OPTIONAL, "defaults for a 'large' server");
972     cmd_AddParmAtOffset(opts, OPT_small, "-S", CMD_FLAG,
973                         CMD_OPTIONAL, "defaults for a 'small' server");
974
975     cmd_AddParmAtOffset(opts, OPT_banner, "-banner", CMD_FLAG,
976                         CMD_OPTIONAL, "print regular banners to log");
977     cmd_AddParmAtOffset(opts, OPT_implicit, "-implicit", CMD_SINGLE,
978                         CMD_OPTIONAL, "implicit admin access bits");
979
980 #if defined(AFS_SGI_ENV)
981     cmd_AddParmAtOffset(opts, OPT_lock, "-lock", CMD_FLAG,
982                         CMD_OPTIONAL, "lock filserver binary in memory");
983 #endif
984     cmd_AddParmAtOffset(opts, OPT_readonly, "-readonly", CMD_FLAG,
985                         CMD_OPTIONAL, "be a readonly fileserver");
986     cmd_AddParmAtOffset(opts, OPT_saneacls, "-saneacls", CMD_FLAG,
987                         CMD_OPTIONAL, "set the saneacls capability bit");
988
989     cmd_AddParmAtOffset(opts, OPT_buffers, "-b", CMD_SINGLE,
990                         CMD_OPTIONAL, "buffers");
991     cmd_AddParmAtOffset(opts, OPT_callbacks, "-cb", CMD_SINGLE,
992                         CMD_OPTIONAL, "number of callbacks");
993     cmd_AddParmAtOffset(opts, OPT_vcsize, "-vc", CMD_SINGLE,
994                         CMD_OPTIONAL, "volume cachesize");
995     cmd_AddParmAtOffset(opts, OPT_lvnodes, "-l", CMD_SINGLE,
996                         CMD_OPTIONAL, "large vnodes");
997     cmd_AddParmAtOffset(opts, OPT_svnodes, "-s", CMD_SINGLE,
998                         CMD_OPTIONAL, "small vnodes");
999     cmd_AddParmAtOffset(opts, OPT_sendsize, "-sendsize", CMD_SINGLE,
1000                         CMD_OPTIONAL, "size of send buffer in bytes");
1001
1002 #if defined(AFS_AIX32_ENV)
1003     cmd_AddParmAtOffset(opts, OPT_minspare, "-m", CMD_SINGLE,
1004                         CMD_OPTIONAL, "minimum percentage spare in partition");
1005 #endif
1006
1007     cmd_AddParmAtOffset(opts, OPT_spare, "-spare", CMD_SINGLE,
1008                         CMD_OPTIONAL, "kB overage on volume quota");
1009     cmd_AddParmAtOffset(opts, OPT_pctspare, "-pctspare", CMD_SINGLE,
1010                         CMD_OPTIONAL, "percentage overage on volume quota");
1011
1012     cmd_AddParmAtOffset(opts, OPT_hostcpsrefresh, "-hr", CMD_SINGLE,
1013                         CMD_OPTIONAL, "hours between host CPS refreshes");
1014
1015     cmd_AddParmAtOffset(opts, OPT_vattachthreads, "-vattachpar", CMD_SINGLE,
1016                         CMD_OPTIONAL, "# of volume attachment threads");
1017
1018     cmd_AddParmAtOffset(opts, OPT_abortthreshold, "-abortthreshold",
1019                         CMD_SINGLE, CMD_OPTIONAL,
1020                         "abort threshold");
1021     cmd_AddParmAtOffset(opts, OPT_busyat, "-busyat", CMD_SINGLE, CMD_OPTIONAL,
1022                         "# of queued entries after which server is busy");
1023     cmd_AddParmAtOffset(opts, OPT_nobusy, "-nobusy", CMD_FLAG, CMD_OPTIONAL,
1024                         "send VRESTARTING while restarting the server");
1025
1026     cmd_AddParmAtOffset(opts, OPT_offline_timeout, "-offline-timeout",
1027                         CMD_SINGLE, CMD_OPTIONAL,
1028                         "timeout for offlining volumes");
1029     cmd_AddParmAtOffset(opts, OPT_offline_shutdown_timeout,
1030                         "-offline-shutdown-timeout", CMD_SINGLE, CMD_OPTIONAL,
1031                         "timeout offlining volumes during shutdown");
1032
1033     cmd_AddParmAtOffset(opts, OPT_vhandle_setaside, "-vhandle-setaside",
1034                         CMD_SINGLE, CMD_OPTIONAL,
1035                         "# fds reserved for non-cache IO");
1036     cmd_AddParmAtOffset(opts, OPT_vhandle_max_cachesize, 
1037                         "-vhandle-max-cachesize", CMD_SINGLE, CMD_OPTIONAL,
1038                         "max open files");
1039     cmd_AddParmAtOffset(opts, OPT_vhandle_initial_cachesize,
1040                         "-vhandle-initial-cachesize", CMD_SINGLE,
1041                         CMD_OPTIONAL, "# fds reserved for cache IO");
1042     cmd_AddParmAtOffset(opts, OPT_vhashsize, "-vhashsize",
1043                         CMD_SINGLE, CMD_OPTIONAL,
1044                         "log(2) of # of volume hash buckets");
1045
1046 #ifdef AFS_DEMAND_ATTACH_FS
1047     /* dafs options */
1048     cmd_AddParmAtOffset(opts, OPT_fs_state_dont_save,
1049                         "-fs-state-dont-save", CMD_FLAG, CMD_OPTIONAL,
1050                         "disable state save during shutdown");
1051     cmd_AddParmAtOffset(opts, OPT_fs_state_dont_restore,
1052                         "-fs-state-dont-restore", CMD_FLAG, CMD_OPTIONAL,
1053                         "disable state restore during startup");
1054     cmd_AddParmAtOffset(opts, OPT_fs_state_verify, "-fs-state-verify",
1055                         CMD_SINGLE, CMD_OPTIONAL, "none|save|restore|both");
1056     cmd_AddParmAtOffset(opts, OPT_vlrudisable, "-vlrudisable",
1057                         CMD_FLAG, CMD_OPTIONAL, "disable VLRU functionality");
1058     cmd_AddParmAtOffset(opts, OPT_vlruthresh, "-vlruthresh",
1059                         CMD_FLAG, CMD_OPTIONAL,
1060                         "mins before unused vols become eligible for detach");
1061     cmd_AddParmAtOffset(opts, OPT_vlruinterval, "-vlruinterval",
1062                         CMD_FLAG, CMD_OPTIONAL, "secs between VLRU scans");
1063     cmd_AddParmAtOffset(opts, OPT_vlrumax, "-vlrumax", CMD_FLAG, CMD_OPTIONAL,
1064                         "max volumes to detach in one scan");
1065     cmd_AddParmAtOffset(opts, OPT_unsafe_nosalvage, "-unsafe-nosalvage",
1066                         CMD_FLAG, CMD_OPTIONAL,
1067                         "bybass safety checks on volume attach");
1068 #endif
1069
1070     /* unrecommend options - should perhaps be CMD_HIDE */
1071     cmd_AddParmAtOffset(opts, OPT_cbwait, "-w", CMD_SINGLE, CMD_OPTIONAL,
1072                         "callback wait interval");
1073     cmd_AddParmAtOffset(opts, OPT_novbc, "-novbc", CMD_SINGLE, CMD_FLAG,
1074                         "disable callback breaks on reattach");
1075
1076     /* general options */
1077     cmd_AddParmAtOffset(opts, OPT_auditlog, "-auditlog", CMD_SINGLE,
1078                         CMD_OPTIONAL, "location of audit log");
1079     cmd_AddParmAtOffset(opts, OPT_auditiface, "-audit-interface", CMD_SINGLE,
1080                         CMD_OPTIONAL, "interface to use for audit logging");
1081     cmd_AddParmAtOffset(opts, OPT_debug, "-d", CMD_SINGLE, CMD_OPTIONAL,
1082                         "debug level");
1083     cmd_AddParmAtOffset(opts, OPT_mrafslogs, "-mrafslogs", CMD_FLAG,
1084                         CMD_OPTIONAL, "enable MRAFS style logging");
1085     cmd_AddParmAtOffset(opts, OPT_transarc_logs, "-transarc-logs", CMD_FLAG,
1086                         CMD_OPTIONAL, "enable Transarc style logging");
1087     cmd_AddParmAtOffset(opts, OPT_threads, "-p", CMD_SINGLE, CMD_OPTIONAL,
1088                         "number of threads");
1089 #ifdef HAVE_SYSLOG
1090     cmd_AddParmAtOffset(opts, OPT_syslog, "-syslog", CMD_SINGLE_OR_FLAG,
1091                         CMD_OPTIONAL, "log to syslog");
1092 #endif
1093
1094     /* rx options */
1095     cmd_AddParmAtOffset(opts, OPT_peer, "-enable_peer_stats", CMD_FLAG,
1096                         CMD_OPTIONAL, "enable RX transport statistics");
1097     cmd_AddParmAtOffset(opts, OPT_process, "-enable_process_stats", CMD_FLAG,
1098                         CMD_OPTIONAL, "enable RX RPC statistics");
1099     cmd_AddParmAtOffset(opts, OPT_nojumbo, "-nojumbo", CMD_FLAG,
1100                         CMD_OPTIONAL, "disable jumbograms");
1101     cmd_AddParmAtOffset(opts, OPT_jumbo, "-jumbo", CMD_FLAG, CMD_OPTIONAL,
1102                         "enable jumbograms");
1103     cmd_AddParmAtOffset(opts, OPT_rxbind, "-rxbind", CMD_FLAG, CMD_OPTIONAL,
1104                         "bind only to the primary interface");
1105     cmd_AddParmAtOffset(opts, OPT_rxdbg, "-rxdbg", CMD_FLAG, CMD_OPTIONAL,
1106                         "enable rx debugging");
1107     cmd_AddParmAtOffset(opts, OPT_rxdbge, "-rxdbge", CMD_FLAG, CMD_OPTIONAL,
1108                         "enable rx event debugging");
1109     cmd_AddParmAtOffset(opts, OPT_rxpck, "-rxpck", CMD_SINGLE, CMD_OPTIONAL,
1110                         "# of extra rx packets");
1111     cmd_AddParmAtOffset(opts, OPT_rxmaxmtu, "-rxmaxmtu", CMD_SINGLE,
1112                         CMD_OPTIONAL, "maximum MTU for RX");
1113     cmd_AddParmAtOffset(opts, OPT_udpsize, "-udpsize", CMD_SINGLE,
1114                         CMD_OPTIONAL, "size of socket buffer in bytes");
1115
1116     /* rxkad options */
1117     cmd_AddParmAtOffset(opts, OPT_dotted, "-allow-dotted-principals",
1118                         CMD_FLAG, CMD_OPTIONAL,
1119                         "permit Kerberos 5 principals with dots");
1120     cmd_AddParmAtOffset(opts, OPT_realm, "-realm",
1121                         CMD_LIST, CMD_OPTIONAL, "local realm");
1122     cmd_AddParmAtOffset(opts, OPT_sync, "-sync",
1123                         CMD_SINGLE, CMD_OPTIONAL, "always | onclose | never");
1124
1125     /* testing options */
1126     cmd_AddParmAtOffset(opts, OPT_logfile, "-logfile", CMD_SINGLE,
1127             CMD_OPTIONAL, "location of log file");
1128     cmd_AddParmAtOffset(opts, OPT_config, "-config", CMD_SINGLE,
1129             CMD_OPTIONAL, "configuration location");
1130
1131     code = cmd_Parse(argc, argv, &opts);
1132     if (code == CMD_HELP) {
1133         exit(0);
1134     }
1135     if (code)
1136         return -1;
1137
1138     cmd_OpenConfigFile(AFSDIR_SERVER_CONFIG_FILE_FILEPATH);
1139     cmd_SetCommandName("fileserver");
1140
1141     if (cmd_OptionPresent(opts, OPT_large)
1142         && cmd_OptionPresent(opts, OPT_small)) {
1143         printf("Only one of -L or -S must be specified\n");
1144         return -1;
1145     }
1146
1147     if (cmd_OptionPresent(opts, OPT_spare)
1148         && cmd_OptionPresent(opts, OPT_pctspare)) {
1149         printf("Both -spare and -pctspare specified, exiting.\n");
1150         return -1;
1151     }
1152
1153     if (cmd_OptionPresent(opts, OPT_large)) {
1154         rxpackets = 200;
1155         nSmallVns = 600;
1156         large = 600;
1157         numberofcbs = 64000;
1158         lwps = 128;
1159         buffs = 120;
1160         volcache = 600;
1161     }
1162
1163     if (cmd_OptionPresent(opts, OPT_small)) {
1164         rxpackets = 100;
1165         nSmallVns = 200;
1166         large = 200;
1167         numberofcbs = 20000;
1168         lwps = 6;
1169         buffs = 70;
1170         volcache = 200;
1171     }
1172
1173     cmd_OptionAsFlag(opts, OPT_banner, &printBanner);
1174
1175     if (cmd_OptionAsString(opts, OPT_implicit, &optstring) == 0) {
1176         implicitAdminRights = ParseRights(optstring);
1177         free(optstring);
1178         optstring = NULL;
1179         if (implicitAdminRights < 0)
1180             return implicitAdminRights;
1181     }
1182
1183 #if defined(AFS_SGI_ENV)
1184     cmd_OptionAsFlag(opts, OPT_lock, &SawLock);
1185 #endif
1186     cmd_OptionAsFlag(opts, OPT_readonly, &readonlyServer);
1187     cmd_OptionAsFlag(opts, OPT_saneacls, &saneacls);
1188     cmd_OptionAsInt(opts, OPT_buffers, &buffs);
1189
1190     if (cmd_OptionAsInt(opts, OPT_callbacks, &numberofcbs) == 0) {
1191         if ((numberofcbs < 10000) || (numberofcbs > 2147483647)) {
1192             printf("number of cbs %d invalid; "
1193                    "must be between 10000 and 2147483647\n", numberofcbs);
1194             return -1;
1195         }
1196     }
1197
1198     cmd_OptionAsInt(opts, OPT_vcsize, &volcache);
1199     cmd_OptionAsInt(opts, OPT_lvnodes, &large);
1200     cmd_OptionAsInt(opts, OPT_svnodes, &nSmallVns);
1201     if (cmd_OptionAsInt(opts, OPT_sendsize, &optval) == 0) {
1202         if (optval < 16384) {
1203             printf("Warning:sendsize %d is less than minimum %d; ignoring\n",
1204                    optval, 16384);
1205         } else
1206             sendBufSize = optval;
1207     }
1208
1209 #if defined(AFS_AIX32_ENV)
1210     if (cmd_OptionAsInt(opts, OPT_minspare, &aixlow_water) == 0) {
1211         if ((aixlow_water < 0) || (aixlow_water > 30)) {
1212             printf("space reserved %d%% invalid; must be between 0-30%\n",
1213                    aixlow_water);
1214             return -1;
1215         }
1216     }
1217 #endif
1218
1219     cmd_OptionAsInt(opts, OPT_spare, &BlocksSpare);
1220     if (cmd_OptionAsInt(opts, OPT_pctspare, &PctSpare) == 0) {
1221         BlocksSpare = 0;
1222     }
1223
1224     if (cmd_OptionAsInt(opts, OPT_hostcpsrefresh, &optval) == 0) {
1225         if ((optval < 1) || (optval > 36)) {
1226             printf("host acl refresh interval of %d hours is invalid; "
1227                    "hours must be between 1 and 36\n\n", optval);
1228             return -1;
1229         }
1230         hostaclRefresh = optval * 60 * 60;
1231     }
1232
1233     cmd_OptionAsInt(opts, OPT_vattachthreads, &vol_attach_threads);
1234
1235     cmd_OptionAsInt(opts, OPT_abortthreshold, &abort_threshold);
1236
1237     /* busyat is at the end, as rxpackets has to be set before we can use it */
1238     if (cmd_OptionPresent(opts, OPT_nobusy))
1239         busyonrst = 0;
1240
1241     if (cmd_OptionAsInt(opts, OPT_offline_timeout, &offline_timeout) == 0) {
1242         if (offline_timeout < -1) {
1243             printf("Invalid -offline-timeout value %d; the only valid "
1244                    "negative value is -1\n", offline_timeout);
1245             return -1;
1246         }
1247     }
1248
1249     if (cmd_OptionAsInt(opts, OPT_offline_shutdown_timeout,
1250                         &offline_shutdown_timeout) == 0) {
1251         if (offline_shutdown_timeout < -1) {
1252             printf("Invalid -offline-timeout value %d; the only valid "
1253                    "negative value is -1\n", offline_shutdown_timeout);
1254             return -1;
1255         }
1256     }
1257
1258     cmd_OptionAsUint(opts, OPT_vhandle_setaside,
1259                     &vol_io_params.fd_handle_setaside);
1260     cmd_OptionAsUint(opts, OPT_vhandle_max_cachesize,
1261                     &vol_io_params.fd_max_cachesize);
1262     cmd_OptionAsUint(opts, OPT_vhandle_initial_cachesize,
1263                     &vol_io_params.fd_initial_cachesize);
1264     if (cmd_OptionAsString(opts, OPT_sync, &sync_behavior) == 0) {
1265         if (ih_SetSyncBehavior(sync_behavior)) {
1266             printf("Invalid -sync value %s\n", sync_behavior);
1267             return -1;
1268         }
1269     }
1270     if (cmd_OptionAsInt(opts, OPT_vhashsize, &optval) == 0) {
1271         if (VSetVolHashSize(optval)) {
1272             fprintf(stderr, "specified -vhashsize (%d) is invalid or out "
1273                             "of range\n", optval);
1274             return -1;
1275         }
1276     }
1277
1278 #ifdef AFS_DEMAND_ATTACH_FS
1279     if (cmd_OptionPresent(opts, OPT_fs_state_dont_save))
1280         fs_state.options.fs_state_save = 0;
1281     if (cmd_OptionPresent(opts, OPT_fs_state_dont_restore))
1282         fs_state.options.fs_state_restore = 0;
1283     if (cmd_OptionAsString(opts, OPT_fs_state_verify, &optstring) == 0) {
1284         if (strcmp(optstring, "none") == 0) {
1285             fs_state.options.fs_state_verify_before_save = 0;
1286             fs_state.options.fs_state_verify_after_restore = 0;
1287         } else if (strcmp(optstring, "save") == 0) {
1288             fs_state.options.fs_state_verify_after_restore = 0;
1289         } else if (strcmp(optstring, "restore") == 0) {
1290             fs_state.options.fs_state_verify_before_save = 0;
1291         } else if (strcmp(optstring, "both") == 0) {
1292             /* default */
1293         } else {
1294             fprintf(stderr, "invalid argument for -fs-state-verify\n");
1295             return -1;
1296         }
1297     }
1298     if (cmd_OptionPresent(opts, OPT_vlrudisable))
1299         VLRU_SetOptions(VLRU_SET_ENABLED, 0);
1300     if (cmd_OptionAsInt(opts, OPT_vlruthresh, &optval) == 0)
1301         VLRU_SetOptions(VLRU_SET_THRESH, 60*optval);
1302     if (cmd_OptionAsInt(opts, OPT_vlruinterval, &optval) == 0)
1303         VLRU_SetOptions(VLRU_SET_INTERVAL, optval);
1304     if (cmd_OptionAsInt(opts, OPT_vlrumax, &optval) == 0)
1305         VLRU_SetOptions(VLRU_SET_MAX, optval);
1306     cmd_OptionAsFlag(opts, OPT_unsafe_nosalvage, &unsafe_attach);
1307 #endif /* AFS_DEMAND_ATTACH_FS */
1308
1309     cmd_OptionAsInt(opts, OPT_cbwait, &fiveminutes);
1310     cmd_OptionAsFlag(opts, OPT_novbc, &novbc);
1311
1312     /* general server options */
1313     cmd_OptionAsString(opts, OPT_auditlog, &auditFileName);
1314
1315     if (cmd_OptionAsString(opts, OPT_auditiface, &optstring) == 0) {
1316         if (osi_audit_interface(optstring)) {
1317             printf("Invalid audit interface '%s'\n", optstring);
1318             return -1;
1319         }
1320         free(optstring);
1321         optstring = NULL;
1322     }
1323
1324     if (cmd_OptionAsInt(opts, OPT_threads, &lwps) == 0) {
1325         lwps_max = max_fileserver_thread() - FILESERVER_HELPER_THREADS;
1326         if (lwps > lwps_max)
1327             lwps = lwps_max;
1328         else if (lwps <6)
1329             lwps = 6;
1330     }
1331
1332     /* Logging options. */
1333 #ifdef HAVE_SYSLOG
1334     if (cmd_OptionPresent(opts, OPT_syslog)) {
1335         if (cmd_OptionPresent(opts, OPT_logfile)) {
1336             fprintf(stderr, "Invalid options: -syslog and -logfile are exclusive.\n");
1337             return -1;
1338         }
1339         if (cmd_OptionPresent(opts, OPT_transarc_logs)) {
1340             fprintf(stderr, "Invalid options: -syslog and -transarc-logs are exclusive.\n");
1341             return -1;
1342         }
1343         if (cmd_OptionPresent(opts, OPT_mrafslogs)) {
1344             fprintf(stderr, "Invalid options: -syslog and -mrafslogs are exclusive.\n");
1345             return -1;
1346         }
1347
1348         logopts.lopt_dest = logDest_syslog;
1349         logopts.lopt_facility = LOG_DAEMON;
1350         logopts.lopt_tag = "fileserver";
1351         cmd_OptionAsInt(opts, OPT_syslog, &logopts.lopt_facility);
1352     } else
1353 #endif
1354     {
1355         logopts.lopt_dest = logDest_file;
1356
1357         if (cmd_OptionPresent(opts, OPT_transarc_logs)) {
1358             if (cmd_OptionPresent(opts, OPT_mrafslogs)) {
1359                 fprintf(stderr,
1360                         "Invalid options: -transarc-logs and -mrafslogs are exclusive.\n");
1361                 return -1;
1362             }
1363             logopts.lopt_rotateOnOpen = 1;
1364             logopts.lopt_rotateStyle = logRotate_old;
1365         } else if (cmd_OptionPresent(opts, OPT_mrafslogs)) {
1366             logopts.lopt_rotateOnOpen = 1;
1367             logopts.lopt_rotateOnReset = 1;
1368             logopts.lopt_rotateStyle = logRotate_timestamp;
1369         }
1370
1371         if (cmd_OptionPresent(opts, OPT_logfile))
1372             cmd_OptionAsString(opts, OPT_logfile, (char**)&logopts.lopt_filename);
1373         else
1374             logopts.lopt_filename = AFSDIR_SERVER_FILELOG_FILEPATH;
1375
1376     }
1377     cmd_OptionAsInt(opts, OPT_debug, &logopts.lopt_logLevel);
1378
1379     if (cmd_OptionPresent(opts, OPT_peer))
1380         rx_enablePeerRPCStats();
1381     if (cmd_OptionPresent(opts, OPT_process))
1382         rx_enableProcessRPCStats();
1383     if (cmd_OptionPresent(opts, OPT_nojumbo))
1384         rxJumbograms = 0;
1385     if (cmd_OptionPresent(opts, OPT_jumbo))
1386         rxJumbograms = 1;
1387     cmd_OptionAsFlag(opts, OPT_rxbind, &rxBind);
1388     cmd_OptionAsFlag(opts, OPT_rxdbg, &rxlog);
1389     cmd_OptionAsFlag(opts, OPT_rxdbge, &eventlog);
1390     cmd_OptionAsInt(opts, OPT_rxpck, &rxpackets);
1391
1392     cmd_OptionAsInt(opts, OPT_rxmaxmtu, &rxMaxMTU);
1393
1394     if (cmd_OptionAsInt(opts, OPT_udpsize, &optval) == 0) {
1395         if (optval < rx_GetMinUdpBufSize()) {
1396             printf("Warning:udpsize %d is less than minimum %d; ignoring\n",
1397                    optval, rx_GetMinUdpBufSize());
1398         } else
1399             udpBufSize = optval;
1400     }
1401
1402     /* rxkad options */
1403     cmd_OptionAsFlag(opts, OPT_dotted, &rxkadDisableDotCheck);
1404     if (cmd_OptionAsList(opts, OPT_realm, &optlist) == 0) {
1405
1406         for (; optlist != NULL; optlist=optlist->next) {
1407             if (strlen(optlist->data) >= AFS_REALM_SZ) {
1408                 printf("-realm argument must contain fewer than %d "
1409                        "characters.\n", AFS_REALM_SZ);
1410                 return -1;
1411             }
1412             afsconf_SetLocalRealm(optlist->data); /* overrides krb.conf file, if one */
1413         }
1414     }
1415
1416     /* anything setting rxpackets must come before this */
1417     if (cmd_OptionAsInt(opts, OPT_busyat, &optval) == 0) {
1418         if (optval < 10) {
1419             printf("Busy threshold %d is too low, will use default.\n",
1420                    busy_threshold);
1421             busy_threshold = 3 * rxpackets / 2;
1422         } else {
1423             busy_threshold = optval;
1424         }
1425     } else {
1426         busy_threshold = 3 * rxpackets / 2;
1427     }
1428
1429     cmd_OptionAsString(opts, OPT_config, &FS_configPath);
1430
1431
1432     if (auditFileName)
1433         osi_audit_file(auditFileName);
1434
1435     if (lwps > 64) {
1436         host_thread_quota = 5;
1437     } else if (lwps > 32) {
1438         host_thread_quota = 4;
1439     } else if (lwps > 16) {
1440         host_thread_quota = 3;
1441     } else {
1442         host_thread_quota = 2;
1443     }
1444
1445     return (0);
1446 }                               /*ParseArgs */
1447
1448 /* Once upon a time, in a galaxy far far away, IBM AFS supported the use of
1449  * a file /vice/file/parms, the contents of which would override any command
1450  * line parameters. We no longer support the use of such a file, but we warn
1451  * if we encounter its presence from an older release
1452  */
1453 static void
1454 CheckParms(void)
1455 {
1456     struct afs_stat sbuf;
1457
1458     if (afs_stat("/vice/file/parms", &sbuf) == 0) {
1459         ViceLog(0, ("Using /vice/file/parms to override command line "
1460                     "options is no longer supported"));
1461     }
1462 }
1463
1464 /* Miscellaneous routines */
1465 void
1466 Die(const char *msg)
1467 {
1468
1469     ViceLogThenPanic(0, ("%s\n", msg));
1470 }                               /*Die */
1471
1472
1473 afs_int32
1474 InitPR(void)
1475 {
1476     int code;
1477
1478     /*
1479      * If this fails, it's because something major is wrong, and is not
1480      * likely to be time dependent.
1481      */
1482     code = pr_Initialize(2, AFSDIR_SERVER_ETC_DIRPATH, 0);
1483     if (code != 0) {
1484         ViceLog(0,
1485                 ("Couldn't initialize protection library; code=%d.\n", code));
1486         return code;
1487     }
1488
1489     opr_Verify(pthread_key_create(&viced_uclient_key, NULL) == 0);
1490
1491     SystemId = SYSADMINID;
1492     SystemAnyUser = ANYUSERID;
1493     SystemAnyUserCPS.prlist_len = 0;
1494     SystemAnyUserCPS.prlist_val = NULL;
1495     AnonCPS.prlist_len = 0;
1496     AnonCPS.prlist_val = NULL;
1497     while (1) {
1498         code = pr_GetCPS(SystemAnyUser, &SystemAnyUserCPS);
1499         if (code != 0) {
1500             ViceLog(0,
1501                     ("Couldn't get CPS for AnyUser, will try again in 30 seconds; code=%d.\n",
1502                      code));
1503             goto sleep;
1504         }
1505         code = pr_GetCPS(ANONYMOUSID, &AnonCPS);
1506         if (code != 0) {
1507             ViceLog(0,
1508                     ("Couldn't get Anonymous CPS, exiting; code=%d.\n",
1509                      code));
1510             return -1;
1511         }
1512         AnonymousID = ANONYMOUSID;
1513         return 0;
1514       sleep:
1515         sleep(30);
1516     }
1517 }                               /*InitPR */
1518
1519 static struct ubik_client *cstruct;
1520
1521 static afs_int32
1522 vl_Initialize(struct afsconf_dir *dir)
1523 {
1524     afs_int32 code, i;
1525     afs_int32 scIndex = RX_SECIDX_NULL;
1526     struct afsconf_cell info;
1527     struct rx_securityClass *sc;
1528     struct rx_connection *serverconns[MAXSERVERS];
1529
1530     memset(serverconns, 0, sizeof(serverconns));
1531     code = afsconf_ClientAuth(dir, &sc, &scIndex);
1532     if (code) {
1533         ViceLog(0, ("Could not get security object for localAuth\n"));
1534         exit(1);
1535     }
1536     code = afsconf_GetCellInfo(dir, NULL, AFSCONF_VLDBSERVICE, &info);
1537     if (code) {
1538         ViceLog(0,
1539                 ("vl_Initialize: Failed to get cell information\n"));
1540         exit(1);
1541     }
1542     if (info.numServers > MAXSERVERS) {
1543         ViceLog(0,
1544                 ("vl_Initialize: info.numServers=%d (> MAXSERVERS=%d)\n",
1545                  info.numServers, MAXSERVERS));
1546         exit(1);
1547     }
1548     for (i = 0; i < info.numServers; i++)
1549         serverconns[i] =
1550             rx_NewConnection(info.hostAddr[i].sin_addr.s_addr,
1551                              info.hostAddr[i].sin_port, USER_SERVICE_ID, sc,
1552                              scIndex);
1553     code = ubik_ClientInit(serverconns, &cstruct);
1554     if (code) {
1555         ViceLog(0, ("vl_Initialize: ubik client init failed.\n"));
1556         return code;
1557     }
1558     return 0;
1559 }
1560
1561 #define SYSIDMAGIC      0x88aabbcc
1562 #define SYSIDVERSION    1
1563
1564 afs_int32
1565 ReadSysIdFile(void)
1566 {
1567     afs_int32 fd, nentries, i;
1568     struct versionStamp vsn;
1569     struct afs_stat status;
1570     afsUUID uuid;
1571
1572     if ((afs_stat(AFSDIR_SERVER_SYSID_FILEPATH, &status))
1573         || (status.st_size <= 0)) {
1574         ViceLog(0, ("%s: doesn't exist\n", AFSDIR_SERVER_SYSID_FILEPATH));
1575         return ENOENT;
1576     }
1577     if (!(fd = afs_open(AFSDIR_SERVER_SYSID_FILEPATH, O_RDONLY, 0))) {
1578         ViceLog(0,
1579                 ("%s: can't open (%d)\n", AFSDIR_SERVER_SYSID_FILEPATH,
1580                  errno));
1581         return EIO;
1582     }
1583     if (read(fd, (char *)&vsn, sizeof(vsn)) != sizeof(vsn)) {
1584         ViceLog(0,
1585                 ("%s: Read failed (%d)\n", AFSDIR_SERVER_SYSID_FILEPATH,
1586                  errno));
1587         return EIO;
1588     }
1589     if (vsn.magic != SYSIDMAGIC) {
1590         ViceLog(0,
1591                 ("%s: wrong magic %x (we support %x)\n",
1592                  AFSDIR_SERVER_SYSID_FILEPATH, vsn.magic, SYSIDMAGIC));
1593         return EIO;
1594     }
1595     if (vsn.version != SYSIDVERSION) {
1596         ViceLog(0,
1597                 ("%s: wrong version %d (we support %d)\n",
1598                  AFSDIR_SERVER_SYSID_FILEPATH, vsn.version, SYSIDVERSION));
1599         return EIO;
1600     }
1601     if (read(fd, (char *)&uuid, sizeof(struct afsUUID))
1602             != sizeof(struct afsUUID)) {
1603         ViceLog(0,
1604                 ("%s: read of uuid failed (%d)\n",
1605                  AFSDIR_SERVER_SYSID_FILEPATH, errno));
1606         return EIO;
1607     }
1608     afs_ntohuuid(&uuid);
1609     FS_HostUUID = uuid;
1610     if (read(fd, (char *)&nentries, sizeof(afs_int32)) != sizeof(afs_int32)) {
1611         ViceLog(0,
1612                 ("%s: Read of entries failed (%d)\n",
1613                  AFSDIR_SERVER_SYSID_FILEPATH, errno));
1614         return EIO;
1615     }
1616     if (nentries <= 0 || nentries > ADDRSPERSITE) {
1617         ViceLog(0,
1618                 ("%s: invalid num of interfaces: %d\n",
1619                  AFSDIR_SERVER_SYSID_FILEPATH, nentries));
1620         return EIO;
1621     }
1622     if (FS_HostAddr_cnt == 0) {
1623         FS_HostAddr_cnt = nentries;
1624         for (i = 0; i < nentries; i++) {
1625             if (read(fd, (char *)&FS_HostAddrs[i], sizeof(afs_int32)) !=
1626                 sizeof(afs_int32)) {
1627                 ViceLog(0,
1628                         ("%s: Read of addresses failed (%d)\n",
1629                          AFSDIR_SERVER_SYSID_FILEPATH, errno));
1630                 FS_HostAddr_cnt = 0;    /* reset it */
1631                 return EIO;
1632             }
1633         }
1634     } else {
1635         ViceLog(1,
1636                 ("%s: address list ignored (NetInfo/NetRestrict override)\n",
1637                  AFSDIR_SERVER_SYSID_FILEPATH));
1638     }
1639     close(fd);
1640     return 0;
1641 }
1642
1643 afs_int32
1644 WriteSysIdFile(void)
1645 {
1646     afs_int32 fd, i;
1647     struct versionStamp vsn;
1648     struct afs_stat status;
1649     afsUUID uuid;
1650
1651     if (!afs_stat(AFSDIR_SERVER_SYSID_FILEPATH, &status)) {
1652         /*
1653          * File exists; keep the old one around
1654          */
1655         rk_rename(AFSDIR_SERVER_SYSID_FILEPATH,
1656                   AFSDIR_SERVER_OLDSYSID_FILEPATH);
1657     }
1658     fd = afs_open(AFSDIR_SERVER_SYSID_FILEPATH, O_WRONLY | O_TRUNC | O_CREAT,
1659                   0666);
1660     if (fd < 1) {
1661         ViceLog(0,
1662                 ("%s: can't create (%d)\n", AFSDIR_SERVER_SYSID_FILEPATH,
1663                  errno));
1664         return EIO;
1665     }
1666     vsn.magic = SYSIDMAGIC;
1667     vsn.version = 1;
1668     if ((i = write(fd, (char *)&vsn, sizeof(vsn))) != sizeof(vsn)) {
1669         ViceLog(0,
1670                 ("%s: write failed (%d)\n", AFSDIR_SERVER_SYSID_FILEPATH,
1671                  errno));
1672         return EIO;
1673     }
1674     uuid = FS_HostUUID;
1675     afs_htonuuid(&uuid);
1676     if ((i =
1677          write(fd, (char *)&uuid,
1678                sizeof(struct afsUUID))) != sizeof(struct afsUUID)) {
1679         ViceLog(0,
1680                 ("%s: write of uuid failed (%d)\n",
1681                  AFSDIR_SERVER_SYSID_FILEPATH, errno));
1682         return EIO;
1683     }
1684     if ((i =
1685          write(fd, (char *)&FS_HostAddr_cnt,
1686                sizeof(afs_int32))) != sizeof(afs_int32)) {
1687         ViceLog(0,
1688                 ("%s: write of # of entries failed (%d)\n",
1689                  AFSDIR_SERVER_SYSID_FILEPATH, errno));
1690         return EIO;
1691     }
1692     for (i = 0; i < FS_HostAddr_cnt; i++) {
1693         if (write(fd, (char *)&FS_HostAddrs[i], sizeof(afs_int32)) !=
1694             sizeof(afs_int32)) {
1695             ViceLog(0,
1696                     ("%s: write of addresses failed (%d)\n",
1697                      AFSDIR_SERVER_SYSID_FILEPATH, errno));
1698             return EIO;
1699         }
1700     }
1701     close(fd);
1702     return 0;
1703 }
1704
1705 /*
1706  * defect 10966
1707  * This routine sets up the buffers for the VL_RegisterAddrs RPC. All addresses
1708  * in FS_HostAddrs[] are in NBO, while the RPC treats them as a "blob" of data
1709  * and so we need to convert each of them into HBO which is what the extra
1710  * array called FS_HostAddrs_HBO is used here.
1711  */
1712 static afs_int32
1713 Do_VLRegisterRPC(void)
1714 {
1715     int code;
1716     bulkaddrs addrs;
1717     afs_uint32 FS_HostAddrs_HBO[ADDRSPERSITE];
1718     int i = 0;
1719
1720     for (i = 0; i < FS_HostAddr_cnt; i++)
1721         FS_HostAddrs_HBO[i] = ntohl(FS_HostAddrs[i]);
1722     addrs.bulkaddrs_len = FS_HostAddr_cnt;
1723     addrs.bulkaddrs_val = (afs_uint32 *) FS_HostAddrs_HBO;
1724     code = ubik_VL_RegisterAddrs(cstruct, 0, &FS_HostUUID, 0, &addrs);
1725     if (code) {
1726         if (code == VL_MULTIPADDR) {
1727             ViceLog(0,
1728                     ("VL_RegisterAddrs rpc failed; The IP address exists on a different server; repair it\n"));
1729             ViceLog(0,
1730                     ("VL_RegisterAddrs rpc failed; See VLLog for details\n"));
1731             return code;
1732         } else if (code == RXGEN_OPCODE) {
1733             ViceLog(0,
1734                     ("vlserver doesn't support VL_RegisterAddrs rpc; ignored\n"));
1735             FS_registered = 2;  /* So we don't have to retry in the gc daemon */
1736         } else {
1737             ViceLog(0,
1738                     ("VL_RegisterAddrs rpc failed; will retry periodically (code=%d, err=%d)\n",
1739                      code, errno));
1740             FS_registered = 1;  /* Retry in the gc daemon */
1741         }
1742     } else {
1743         FS_registered = 2;      /* So we don't have to retry in the gc daemon */
1744         WriteSysIdFile();
1745     }
1746
1747     return 0;
1748 }
1749
1750 afs_int32
1751 SetupVL(void)
1752 {
1753     afs_int32 code;
1754
1755     if (AFSDIR_SERVER_NETRESTRICT_FILEPATH || AFSDIR_SERVER_NETINFO_FILEPATH) {
1756         /*
1757          * Find addresses we are supposed to register as per the netrestrict
1758          * and netinfo files (/usr/afs/local/NetInfo and
1759          * /usr/afs/local/NetRestict)
1760          */
1761         char reason[1024];
1762         afs_int32 code;
1763
1764         code = afsconf_ParseNetFiles(FS_HostAddrs, NULL, NULL,
1765                                      ADDRSPERSITE, reason,
1766                                      AFSDIR_SERVER_NETINFO_FILEPATH,
1767                                      AFSDIR_SERVER_NETRESTRICT_FILEPATH);
1768         if (code < 0) {
1769             ViceLog(0, ("Can't register any valid addresses: %s\n", reason));
1770             exit(1);
1771         }
1772         FS_HostAddr_cnt = (afs_uint32) code;
1773     } else
1774     {
1775         FS_HostAddr_cnt = rx_getAllAddr(FS_HostAddrs, ADDRSPERSITE);
1776     }
1777
1778     if (FS_HostAddr_cnt == 1 && rxBind == 1)
1779         code = FS_HostAddrs[0];
1780     else
1781         code = htonl(INADDR_ANY);
1782     return code;
1783 }
1784
1785 afs_int32
1786 InitVL(struct afsconf_dir *dir)
1787 {
1788     afs_int32 code;
1789
1790     /*
1791      * If this fails, it's because something major is wrong, and is not
1792      * likely to be time dependent.
1793      */
1794     code = vl_Initialize(dir);
1795     if (code != 0) {
1796         ViceLog(0,
1797                 ("Couldn't initialize volume location library; code=%d.\n", code));
1798         return code;
1799     }
1800
1801     /* Read or create the sysid file and register the fileserver's
1802      * IP addresses with the vlserver.
1803      */
1804     code = ReadSysIdFile();
1805     if (code) {
1806         /* Need to create the file */
1807         ViceLog(0, ("Creating new SysID file\n"));
1808         if ((code = afs_uuid_create(&FS_HostUUID))) {
1809             ViceLog(0, ("Failed to create new uuid: %d\n", code));
1810             exit(1);
1811         }
1812     }
1813     /* A good sysid file exists; inform the vlserver. If any conflicts,
1814      * we always use the latest interface available as the real truth.
1815      */
1816
1817     code = Do_VLRegisterRPC();
1818     return code;
1819 }
1820
1821 int
1822 main(int argc, char *argv[])
1823 {
1824     afs_int32 code;
1825     char tbuffer[32];
1826     struct rx_securityClass **securityClasses;
1827     afs_int32 numClasses;
1828     struct rx_service *tservice;
1829     pthread_t serverPid;
1830     pthread_attr_t tattr;
1831     struct hostent *he;
1832     int minVnodesRequired;      /* min size of vnode cache */
1833 #ifndef AFS_NT40_ENV
1834     struct rlimit rlim;         /* max number of open file descriptors */
1835 #endif
1836     int curLimit;
1837     time_t t;
1838     struct tm tm;
1839     char hoststr[16];
1840     afs_uint32 rx_bindhost;
1841     VolumePackageOptions opts;
1842
1843 #ifdef  AFS_AIX32_ENV
1844     struct sigaction nsa;
1845
1846     sigemptyset(&nsa.sa_mask);
1847     nsa.sa_handler = SIG_DFL;
1848     nsa.sa_flags = SA_FULLDUMP;
1849     sigaction(SIGABRT, &nsa, NULL);
1850     sigaction(SIGSEGV, &nsa, NULL);
1851 #endif
1852     osi_audit_init();
1853
1854     /* Initialize dirpaths */
1855     if (!(initAFSDirPath() & AFSDIR_SERVER_PATHS_OK)) {
1856 #ifdef AFS_NT40_ENV
1857         ReportErrorEventAlt(AFSEVT_SVR_NO_INSTALL_DIR, 0, argv[0], 0);
1858 #endif
1859         fprintf(stderr, "%s: Unable to obtain AFS server directory.\n",
1860                 argv[0]);
1861         exit(2);
1862     }
1863     /* set ihandle package defaults prior to parsing args */
1864     ih_PkgDefaults();
1865
1866     /* check for the parameter file */
1867     CheckParms();
1868
1869     FS_configPath = strdup(AFSDIR_SERVER_ETC_DIRPATH);
1870     memset(&logopts, 0, sizeof(logopts));
1871
1872     if (ParseArgs(argc, argv)) {
1873         exit(-1);
1874     }
1875     opr_mutex_init(&fileproc_glock_mutex);
1876
1877 #ifdef AFS_SGI_VNODE_GLUE
1878     if (afs_init_kernel_config(-1) < 0) {
1879         printf
1880             ("Can't determine NUMA configuration, not starting fileserver.\n");
1881         exit(1);
1882     }
1883 #endif
1884
1885     confDir = afsconf_Open(FS_configPath);
1886     if (!confDir) {
1887         fprintf(stderr, "Unable to open config directory %s\n",
1888                 FS_configPath);
1889         exit(-1);
1890     }
1891
1892     /* initialize audit user check */
1893     osi_audit_set_user_check(confDir, fs_IsLocalRealmMatch);
1894
1895     OpenLog(&logopts);
1896
1897     LogCommandLine(argc, argv, "starting", "", "File server", FSLog);
1898     if (afsconf_GetLatestKey(confDir, NULL, NULL) == 0) {
1899         LogDesWarning();
1900     }
1901
1902     /* initialize the pthread soft signal handler thread */
1903     opr_softsig_Init();
1904     SetupLogSoftSignals();
1905     opr_softsig_Register(AFS_SIG_CHECK, CheckSignal_Signal);
1906 #ifndef AFS_NT40_ENV
1907     opr_softsig_Register(SIGTERM, CheckDescriptors_Signal);
1908 #endif
1909
1910 #if defined(AFS_SGI_ENV)
1911     /* give this guy a non-degrading priority so help busy servers */
1912     schedctl(NDPRI, 0, NDPNORMMAX);
1913     if (SawLock)
1914         plock(PROCLOCK);
1915 #elif !defined(AFS_NT40_ENV)
1916     if (nice(-5) < 0) {
1917         /* don't care */
1918     }
1919 #endif
1920     DInit(buffs);
1921 #ifdef AFS_DEMAND_ATTACH_FS
1922     FS_STATE_INIT;
1923 #endif
1924
1925 #ifdef AFS_NT40_ENV
1926     if (afs_winsockInit() < 0) {
1927         ReportErrorEventAlt(AFSEVT_SVR_WINSOCK_INIT_FAILED, 0, argv[0], 0);
1928         ViceLog(0, ("File server failed to intialize winsock.\n"));
1929         exit(1);
1930     }
1931 #endif
1932     CheckAdminName();
1933
1934     /* if we support more than 16 threads, then we better have the ability
1935      ** to keep open a large number of files simultaneously
1936      */
1937 #if     defined(AFS_AIX_ENV) && !defined(AFS_AIX42_ENV)
1938     curLimit = OPEN_MAX;        /* for pre AIX 4.2 systems */
1939 #elif defined(AFS_NT40_ENV)
1940     curLimit = NT_OPEN_MAX;     /* open file descriptor limit on NT */
1941 #else
1942
1943     curLimit = 0;               /* the number of open file descriptors */
1944     code = getrlimit(RLIMIT_NOFILE, &rlim);
1945     if (code == 0) {
1946         curLimit = rlim.rlim_cur;
1947         rlim.rlim_cur = rlim.rlim_max;
1948         code = setrlimit(RLIMIT_NOFILE, &rlim);
1949         if (code == 0)
1950             curLimit = rlim.rlim_max;
1951     }
1952     if (code != 0)
1953         ViceLog(0, ("Failed to increase open file limit, using default\n"));
1954
1955 #endif /* defined(AFS_AIX_ENV) && !defined(AFS_AIX42_ENV) */
1956
1957     curLimit -= 32;             /* leave a slack of 32 file descriptors */
1958     if (lwps > curLimit) {
1959         if (curLimit > 0)
1960             lwps = curLimit;
1961         else if (lwps > 16)
1962             lwps = 16;          /* default to a maximum of 16 threads */
1963
1964         /* tune the ihandle fd cache accordingly */
1965         if (vol_io_params.fd_max_cachesize < curLimit)
1966             vol_io_params.fd_max_cachesize = curLimit + 1;
1967
1968         ViceLog(0,
1969                 ("The system supports a max of %d open files and we are starting %d threads (ihandle fd cache is %d)\n",
1970                  curLimit, lwps, vol_io_params.fd_max_cachesize));
1971     }
1972
1973     /* Initialize volume support */
1974     if (!novbc) {
1975         V_BreakVolumeCallbacks = BreakVolumeCallBacksLater;
1976     }
1977
1978     SetLogThreadNumProgram( rx_GetThreadNum );
1979
1980     /* initialize libacl routines */
1981     acl_Initialize(ACL_VERSION);
1982
1983     /* initialize RX support */
1984 #if !defined(AFS_NT40_ENV) && !defined(AFS_DARWIN160_ENV)
1985     rxi_syscallp = viced_syscall;
1986 #endif
1987     rx_extraPackets = rxpackets;
1988     rx_extraQuota = 4;          /* for outgoing prserver calls from R threads */
1989     rx_SetBusyThreshold(busy_threshold, VBUSY);
1990     rx_SetCallAbortThreshold(abort_threshold);
1991     rx_SetConnAbortThreshold(abort_threshold);
1992 #ifdef AFS_XBSD_ENV
1993     stackSize = 128 * 1024;
1994 #else
1995     stackSize = lwps * 4000;
1996     if (stackSize < 32000)
1997         stackSize = 32000;
1998     else if (stackSize > 44000)
1999         stackSize = 44000;
2000 #endif
2001 #if defined(AFS_HPUX_ENV) || defined(AFS_SUN_ENV) || defined(AFS_SGI51_ENV) || defined(AFS_XBSD_ENV)
2002     rx_SetStackSize(1, stackSize);
2003 #endif
2004     if (udpBufSize)
2005         rx_SetUdpBufSize(udpBufSize);   /* set the UDP buffer size for receive */
2006     rx_bindhost = SetupVL();
2007
2008     ViceLog(0, ("File server binding rx to %s:%d\n",
2009             afs_inet_ntoa_r(rx_bindhost, hoststr), 7000));
2010     if (rx_InitHost(rx_bindhost, (int)htons(7000)) < 0) {
2011         ViceLog(0, ("Cannot initialize RX\n"));
2012         exit(1);
2013     }
2014     if (!rxJumbograms) {
2015         /* Don't send and don't allow 3.4 clients to send jumbograms. */
2016         rx_SetNoJumbo();
2017     }
2018     if (rxMaxMTU != -1) {
2019         if (rx_SetMaxMTU(rxMaxMTU) != 0) {
2020             ViceLog(0, ("rxMaxMTU %d is invalid\n", rxMaxMTU));
2021             exit(1);
2022         }
2023     }
2024     rx_GetIFInfo();
2025     rx_SetRxDeadTime(30);
2026     afsconf_SetSecurityFlags(confDir, AFSCONF_SECOPTS_ALWAYSENCRYPT);
2027     afsconf_BuildServerSecurityObjects(confDir, &securityClasses, &numClasses);
2028
2029     tservice = rx_NewServiceHost(rx_bindhost,  /* port */ 0, /* service id */
2030                                  1,     /*service name */
2031                                  "AFS",
2032                                  securityClasses, numClasses,
2033                                  RXAFS_ExecuteRequest);
2034     if (!tservice) {
2035         ViceLog(0,
2036                 ("Failed to initialize RX, probably two servers running.\n"));
2037         exit(-1);
2038     }
2039     if (rxkadDisableDotCheck) {
2040         rx_SetSecurityConfiguration(tservice, RXS_CONFIG_FLAGS,
2041                                     (void *)RXS_CONFIG_FLAGS_DISABLE_DOTCHECK);
2042     }
2043     rx_SetMinProcs(tservice, 3);
2044     rx_SetMaxProcs(tservice, lwps);
2045     rx_SetCheckReach(tservice, 1);
2046
2047     tservice =
2048         rx_NewService(0, RX_STATS_SERVICE_ID, "rpcstats", securityClasses,
2049                       numClasses, RXSTATS_ExecuteRequest);
2050     if (!tservice) {
2051         ViceLog(0, ("Failed to initialize rpc stat service.\n"));
2052         exit(-1);
2053     }
2054     rx_SetMinProcs(tservice, 2);
2055     rx_SetMaxProcs(tservice, 4);
2056
2057     /* Some rx debugging */
2058     if (rxlog || eventlog) {
2059         debugFile = afs_fopen("rx_dbg", "w");
2060         if (rxlog)
2061             rx_debugFile = debugFile;
2062         if (eventlog)
2063             rxevent_debugFile = debugFile;
2064     }
2065
2066     init_sys_error_to_et();     /* Set up error table translation */
2067     h_InitHostPackage(host_thread_quota); /* set up local cellname and realmname */
2068     InitCallBack(numberofcbs);
2069     ClearXStatValues();
2070
2071     code = InitVL(confDir);
2072     if (code && code != VL_MULTIPADDR) {
2073         ViceLog(0, ("Fatal error in library initialization, exiting!!\n"));
2074         exit(1);
2075     }
2076
2077     code = InitPR();
2078     if (code && code != -1) {
2079         ViceLog(0, ("Fatal error in protection initialization, exiting!!\n"));
2080         exit(1);
2081     }
2082
2083     /* allow super users to manage RX statistics */
2084     rx_SetRxStatUserOk(viced_SuperUser);
2085
2086     opr_cv_init(&fsync_cond);
2087     opr_mutex_init(&fsync_glock_mutex);
2088
2089 #if !defined(AFS_DEMAND_ATTACH_FS)
2090     /*
2091      * For DAFS, we do not start the Rx server threads until after
2092      * the volume package is initialized, and fileserver state is
2093      * restored.  This is necessary in order to keep host and callback
2094      * package state pristine until we have a chance to restore state.
2095      *
2096      * Furthermore, startup latency is much lower with dafs, so this
2097      * shouldn't pose a serious problem.
2098      */
2099     rx_StartServer(0);          /* now start handling requests */
2100 #endif
2101
2102     /* we ensure that there is enough space in the vnode buffer to satisfy
2103      ** requests from all concurrent threads.
2104      ** the maximum number of vnodes used by a single thread at any one time
2105      ** is three ( "link" uses three vnodes simultaneously, one vLarge and
2106      ** two vSmall for linking files and two vLarge and one vSmall for linking
2107      ** files  ) : dhruba
2108      */
2109     minVnodesRequired = 2 * lwps + 1;
2110     if (minVnodesRequired > nSmallVns) {
2111         nSmallVns = minVnodesRequired;
2112         ViceLog(0,
2113                 ("Overriding -s command line parameter with %d\n",
2114                  nSmallVns));
2115     }
2116     if (minVnodesRequired > large) {
2117         large = minVnodesRequired;
2118         ViceLog(0, ("Overriding -l command line parameter with %d\n", large));
2119     }
2120
2121     /* We now do this after getting the listener up and running, so that client
2122      * connections don't timeout (maybe) if a file server is restarted, since it
2123      * will be available "real soon now".  Worry about whether we can satisfy the
2124      * calls in the volume package itself.
2125      */
2126     VOptDefaults(fileServer, &opts);
2127     opts.nLargeVnodes = large;
2128     opts.nSmallVnodes = nSmallVns;
2129     opts.volcache = volcache;
2130     opts.unsafe_attach = unsafe_attach;
2131     if (offline_timeout != -1) {
2132         opts.interrupt_rxcall = rx_InterruptCall;
2133         opts.offline_timeout = offline_timeout;
2134     }
2135     if (offline_shutdown_timeout == -1) {
2136         /* default to -offline-timeout, if shutdown-specific timeout is not
2137          * specified */
2138         opts.offline_shutdown_timeout = offline_timeout;
2139     } else {
2140         opts.interrupt_rxcall = rx_InterruptCall;
2141         opts.offline_shutdown_timeout = offline_shutdown_timeout;
2142     }
2143
2144     if (VInitVolumePackage2(fileServer, &opts)) {
2145         ViceLog(0,
2146                 ("Shutting down: errors encountered initializing volume package\n"));
2147         VShutdown();
2148         exit(1);
2149     }
2150
2151     /* Install handler to catch the shutdown signal;
2152      * bosserver assumes SIGQUIT shutdown
2153      */
2154     opr_softsig_Register(SIGQUIT, ShutDown_Signal);
2155
2156     if (VInitAttachVolumes(fileServer)) {
2157         ViceLog(0,
2158                 ("Shutting down: errors encountered initializing volume package\n"));
2159         VShutdown();
2160         exit(1);
2161     }
2162
2163 #ifdef AFS_DEMAND_ATTACH_FS
2164     if (fs_state.options.fs_state_restore) {
2165         /*
2166          * demand attach fs
2167          * restore fileserver state */
2168         fs_stateRestore();
2169     }
2170     rx_StartServer(0);  /* now start handling requests */
2171 #endif /* AFS_DEMAND_ATTACH_FS */
2172
2173     /*
2174      * We are done calling fopen/fdopen. It is safe to use a large
2175      * of the file descriptor cache.
2176      */
2177     ih_UseLargeCache();
2178
2179     ViceLog(5, ("Starting pthreads\n"));
2180     opr_Verify(pthread_attr_init(&tattr) == 0);
2181     opr_Verify(pthread_attr_setdetachstate(&tattr,
2182                                            PTHREAD_CREATE_DETACHED) == 0);
2183
2184     opr_Verify(pthread_create(&serverPid, &tattr, FiveMinuteCheckLWP,
2185                               &fiveminutes) == 0);
2186     opr_Verify(pthread_create(&serverPid, &tattr, HostCheckLWP,
2187                               &fiveminutes) == 0);
2188     opr_Verify(pthread_create(&serverPid, &tattr, FsyncCheckLWP,
2189                               &fiveminutes) == 0);
2190
2191     gettimeofday(&tp, 0);
2192
2193     /*
2194      * Figure out the FileServer's name and primary address.
2195      */
2196     ViceLog(0, ("Getting FileServer name...\n"));
2197     code = gethostname(FS_HostName, 64);
2198     if (code) {
2199         ViceLog(0, ("gethostname() failed\n"));
2200     }
2201     ViceLog(0, ("FileServer host name is '%s'\n", FS_HostName));
2202
2203     ViceLog(0, ("Getting FileServer address...\n"));
2204     he = gethostbyname(FS_HostName);
2205     if (!he) {
2206         ViceLog(0, ("Can't find address for FileServer '%s'\n", FS_HostName));
2207     } else {
2208         memcpy(&FS_HostAddr_NBO, he->h_addr, 4);
2209         (void)afs_inet_ntoa_r(FS_HostAddr_NBO, hoststr);
2210         FS_HostAddr_HBO = ntohl(FS_HostAddr_NBO);
2211         ViceLog(0,
2212                 ("FileServer %s has address %s (0x%x or 0x%x in host byte order)\n",
2213                  FS_HostName, hoststr, FS_HostAddr_NBO, FS_HostAddr_HBO));
2214     }
2215
2216     t = tp.tv_sec;
2217     strftime(tbuffer, sizeof(tbuffer), "%a %b %d %H:%M:%S %Y",
2218              localtime_r(&t, &tm));
2219     ViceLog(0, ("File Server started %s\n", tbuffer));
2220     afs_FullPerfStats.det.epoch.tv_sec = StartTime = tp.tv_sec;
2221     while (1) {
2222         sleep(1000);            /* long time */
2223     }
2224     AFS_UNREACHED(return(0));
2225 }