threaded-volserver-progress-20031114
[openafs.git] / src / volser / volmain.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  * 
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  */
9
10 #include <afsconfig.h>
11 #include <afs/param.h>
12
13 RCSID
14     ("$Header$");
15
16 #include <sys/types.h>
17 #ifdef AFS_NT40_ENV
18 #include <time.h>
19 #include <fcntl.h>
20 #include <windows.h>
21 #include <WINNT/afsevent.h>
22 #else
23 #include <sys/time.h>
24 #include <sys/file.h>
25 #include <netinet/in.h>
26 #endif
27 #ifdef HAVE_STRING_H
28 #include <string.h>
29 #else
30 #ifdef HAVE_STRINGS_H
31 #include <strings.h>
32 #endif
33 #endif
34 #include <rx/xdr.h>
35 #include <afs/afsint.h>
36 #include <stdio.h>
37 #include <signal.h>
38 #ifdef AFS_PTHREAD_ENV
39 #include <assert.h>
40 #else /* AFS_PTHREAD_ENV */
41 #include <afs/assert.h>
42 #endif /* AFS_PTHREAD_ENV */
43 #include <afs/prs_fs.h>
44 #include <afs/nfs.h>
45 #include <lwp.h>
46 #include <lock.h>
47 #include <afs/afssyscalls.h>
48 #include <afs/ihandle.h>
49 #ifdef AFS_NT40_ENV
50 #include <afs/ntops.h>
51 #endif
52 #include <afs/vnode.h>
53 #include <afs/volume.h>
54 #include <afs/partition.h>
55 #include <rx/rx.h>
56 #include <rx/rx_globals.h>
57 #include <afs/auth.h>
58 #include <rx/rxkad.h>
59 #include <afs/cellconfig.h>
60 #include <afs/keys.h>
61 #include <ubik.h>
62
63 #include "volser.h"
64 #include <errno.h>
65 #include <afs/audit.h>
66 #include <afs/afsutil.h>
67
68 /*@printflike@*/ extern void Log(const char *format, ...);
69 /*@printflike@*/ extern void Abort(const char *format, ...);
70
71 #define VolserVersion "2.0"
72 #define N_SECURITY_OBJECTS 3
73
74 extern int (*vol_PollProc) ();
75 extern struct volser_trans *TransList();
76 #ifndef AFS_PTHREAD_ENV
77 extern int IOMGR_Poll();
78 #endif
79 char *GlobalNameHack = NULL;
80 int hackIsIn = 0;
81 afs_int32 GlobalVolCloneId, GlobalVolParentId;
82 int GlobalVolType;
83 int VolumeChanged;              /* XXXX */
84 static char busyFlags[MAXHELPERS];
85 struct volser_trans *QI_GlobalWriteTrans = 0;
86 extern int QI_write();
87 extern int QI_flush();
88 extern int (*VolWriteProc) ();
89 extern int (*VolFlushProc) ();
90 extern void AFSVolExecuteRequest();
91 extern void RXSTATS_ExecuteRequest();
92 struct afsconf_dir *tdir;
93 static afs_int32 runningCalls = 0;
94 int DoLogging = 0;
95 #define MAXLWP 16
96 int lwps = 9;
97 int udpBufSize = 0;             /* UDP buffer size for receive */
98
99 int Testing = 0;                /* for ListViceInodes */
100
101 #define VS_EXIT(code)  {                                          \
102                           osi_audit(VS_ExitEvent, code, AUD_END); \
103                           exit(code);                             \
104                        }
105
106
107 static
108 MyBeforeProc(struct rx_call *acall)
109 {
110     runningCalls++;
111     return 0;
112 }
113
114 static
115 MyAfterProc(struct rx_call *acall, afs_int32 code)
116 {
117     runningCalls--;
118     return 0;
119 }
120
121 /* Called every GCWAKEUP seconds to try to unlock all our partitions,
122  * if we're idle and there are no active transactions 
123  */
124 static
125 TryUnlock()
126 {
127     /* if there are no running calls, and there are no active transactions, then
128      * it should be safe to release any partition locks we've accumulated */
129     if (runningCalls == 0 && TransList() == (struct volser_trans *)0) {
130         VPFullUnlock();         /* in volprocs.c */
131     }
132 }
133
134 /* background daemon for timing out transactions */
135 static
136 BKGLoop()
137 {
138     struct timeval tv;
139     int loop = 0;
140
141     while (1) {
142         tv.tv_sec = GCWAKEUP;
143         tv.tv_usec = 0;
144 #ifdef AFS_PTHREAD_ENV
145         select(0, 0, 0, 0, &tv);
146 #else
147         (void)IOMGR_Select(0, 0, 0, 0, &tv);
148 #endif
149         GCTrans();
150         TryUnlock();
151         loop++;
152         if (loop == 10) {       /* reopen log every 5 minutes */
153             loop = 0;
154             ReOpenLog(AFSDIR_SERVER_VOLSERLOG_FILEPATH);
155         }
156     }
157 }
158
159 /* Background daemon for sleeping so the volserver does not become I/O bound */
160 afs_int32 TTsleep, TTrun;
161 static
162 BKGSleep()
163 {
164     struct volser_trans *tt;
165
166     if (TTsleep) {
167         while (1) {
168 #ifdef AFS_PTHREAD_ENV
169             sleep(TTrun);
170 #else /* AFS_PTHREAD_ENV */
171             IOMGR_Sleep(TTrun);
172 #endif
173             for (tt = TransList(); tt; tt = tt->next) {
174                 if ((strcmp(tt->lastProcName, "DeleteVolume") == 0)
175                     || (strcmp(tt->lastProcName, "Clone") == 0)
176                     || (strcmp(tt->lastProcName, "ReClone") == 0)
177                     || (strcmp(tt->lastProcName, "Forward") == 0)
178                     || (strcmp(tt->lastProcName, "Restore") == 0)
179                     || (strcmp(tt->lastProcName, "ForwardMulti") == 0))
180                     break;
181             }
182             if (tt) {
183                 sleep(TTsleep);
184             }
185         }
186     }
187 }
188
189 #ifndef AFS_NT40_ENV
190 int
191 volser_syscall(a3, a4, a5)
192      afs_uint32 a3, a4;
193      void *a5;
194 {
195     afs_uint32 rcode;
196     void (*old) ();
197
198 #ifndef AFS_LINUX20_ENV
199     old = signal(SIGSYS, SIG_IGN);
200 #endif
201     rcode =
202         syscall(AFS_SYSCALL /* AFS_SYSCALL */ , 28 /* AFSCALL_CALL */ , a3,
203                 a4, a5);
204 #ifndef AFS_LINUX20_ENV
205     signal(SIGSYS, old);
206 #endif
207
208     return rcode;
209 }
210 #endif
211
212
213 /* check whether caller is authorized to manage RX statistics */
214 int
215 vol_rxstat_userok(call)
216      struct rx_call *call;
217 {
218     return afsconf_SuperUser(tdir, call, NULL);
219 }
220
221 #include "AFS_component_version_number.c"
222 main(argc, argv)
223      int argc;
224      char **argv;
225 {
226     register afs_int32 code;
227     struct rx_securityClass *(securityObjects[3]);
228     struct rx_service *service;
229     struct ktc_encryptionKey tkey;
230     int rxpackets = 100;
231     char commandLine[150];
232     int i;
233     int rxJumbograms = 1;       /* default is to send and receive jumbograms. */
234     int bufSize = 0;            /* temp variable to read in udp socket buf size */
235
236 #ifdef  AFS_AIX32_ENV
237     /*
238      * The following signal action for AIX is necessary so that in case of a 
239      * crash (i.e. core is generated) we can include the user's data section 
240      * in the core dump. Unfortunately, by default, only a partial core is
241      * generated which, in many cases, isn't too useful.
242      */
243     struct sigaction nsa;
244
245     sigemptyset(&nsa.sa_mask);
246     nsa.sa_handler = SIG_DFL;
247     nsa.sa_flags = SA_FULLDUMP;
248     sigaction(SIGABRT, &nsa, NULL);
249     sigaction(SIGSEGV, &nsa, NULL);
250 #endif
251     osi_audit(VS_StartEvent, 0, AUD_END);
252
253     /* Initialize dirpaths */
254     if (!(initAFSDirPath() & AFSDIR_SERVER_PATHS_OK)) {
255 #ifdef AFS_NT40_ENV
256         ReportErrorEventAlt(AFSEVT_SVR_NO_INSTALL_DIR, 0, argv[0], 0);
257 #endif
258         fprintf(stderr, "%s: Unable to obtain AFS server directory.\n",
259                 argv[0]);
260         exit(2);
261     }
262
263     for (commandLine[0] = '\0', i = 0; i < argc; i++) {
264         if (i > 0)
265             strcat(commandLine, " ");
266         strcat(commandLine, argv[i]);
267     }
268
269     TTsleep = TTrun = 0;
270
271     /* parse cmd line */
272     for (code = 1; code < argc; code++) {
273         if (strcmp(argv[code], "-log") == 0) {
274             /* set extra logging flag */
275             DoLogging = 1;
276         } else if (strcmp(argv[code], "-help") == 0) {
277             goto usage;
278         } else if (strcmp(argv[code], "-p") == 0) {
279             lwps = atoi(argv[++code]);
280             if (lwps > MAXLWP) {
281                 printf("Warning: '-p %d' is too big; using %d instead\n",
282                        lwps, MAXLWP);
283                 lwps = MAXLWP;
284             }
285         } else if (strcmp(argv[code], "-nojumbo") == 0) {
286             rxJumbograms = 0;
287         } else if (strcmp(argv[code], "-sleep") == 0) {
288             sscanf(argv[++code], "%d/%d", &TTsleep, &TTrun);
289             if ((TTsleep < 0) || (TTrun <= 0)) {
290                 printf("Warning: '-sleep %d/%d' is incorrect; ignoring\n",
291                        TTsleep, TTrun);
292                 TTsleep = TTrun = 0;
293             }
294         } else if (strcmp(argv[code], "-udpsize") == 0) {
295             if ((code + 1) >= argc) {
296                 printf("You have to specify -udpsize <integer value>\n");
297                 exit(1);
298             }
299             sscanf(argv[++code], "%d", &bufSize);
300             if (bufSize < rx_GetMinUdpBufSize())
301                 printf
302                     ("Warning:udpsize %d is less than minimum %d; ignoring\n",
303                      bufSize, rx_GetMinUdpBufSize());
304             else
305                 udpBufSize = bufSize;
306         } else if (strcmp(argv[code], "-enable_peer_stats") == 0) {
307             rx_enablePeerRPCStats();
308         } else if (strcmp(argv[code], "-enable_process_stats") == 0) {
309             rx_enableProcessRPCStats();
310         }
311 #ifndef AFS_NT40_ENV
312         else if (strcmp(argv[code], "-syslog") == 0) {
313             /* set syslog logging flag */
314             serverLogSyslog = 1;
315         } else if (strncmp(argv[code], "-syslog=", 8) == 0) {
316             serverLogSyslog = 1;
317             serverLogSyslogFacility = atoi(argv[code] + 8);
318         }
319 #endif
320         else {
321             printf("volserver: unrecognized flag '%s'\n", argv[code]);
322           usage:
323 #ifndef AFS_NT40_ENV
324             printf("Usage: volserver [-log] [-p <number of processes>] "
325                    "[-udpsize <size of socket buffer in bytes>] "
326                    "[-syslog[=FACILITY]] "
327                    "[-enable_peer_stats] [-enable_process_stats] "
328                    "[-help]\n");
329 #else
330             printf("Usage: volserver [-log] [-p <number of processes>] "
331                    "[-udpsize <size of socket buffer in bytes>] "
332                    "[-enable_peer_stats] [-enable_process_stats] "
333                    "[-help]\n");
334 #endif
335             VS_EXIT(1);
336         }
337     }
338 #ifdef AFS_SGI_VNODE_GLUE
339     if (afs_init_kernel_config(-1) < 0) {
340         printf
341             ("Can't determine NUMA configuration, not starting volserver.\n");
342         exit(1);
343     }
344 #endif
345     InitErrTabs();
346
347 #ifdef AFS_NT40_ENV
348     if (afs_winsockInit() < 0) {
349         ReportErrorEventAlt(AFSEVT_SVR_WINSOCK_INIT_FAILED, 0, argv[0], 0);
350         printf("Volume server unable to start winsock, exiting.\n");
351         exit(1);
352     }
353 #endif
354     VInitVolumePackage(volumeUtility, 0, 0, CONNECT_FS, 0);
355     DInit(40);
356 #ifndef AFS_PTHREAD_ENV
357     vol_PollProc = IOMGR_Poll;  /* tell vol pkg to poll io system periodically */
358 #endif
359 #ifndef AFS_NT40_ENV
360     rxi_syscallp = volser_syscall;
361 #endif
362     rx_nPackets = rxpackets;    /* set the max number of packets */
363     if (udpBufSize)
364         rx_SetUdpBufSize(udpBufSize);   /* set the UDP buffer size for receive */
365     code = rx_Init((int)htons(AFSCONF_VOLUMEPORT));
366     if (code) {
367         fprintf(stderr, "rx init failed on socket AFSCONF_VOLUMEPORT %u\n",
368                 AFSCONF_VOLUMEPORT);
369         VS_EXIT(1);
370     }
371     if (!rxJumbograms) {
372         /* Don't allow 3.4 vos clients to send jumbograms and we don't send. */
373         rx_SetNoJumbo();
374     }
375     rx_GetIFInfo();
376     rx_SetRxDeadTime(420);
377     memset(busyFlags, 0, sizeof(busyFlags));
378
379     /* Open FileLog and map stdout, stderr into it */
380     OpenLog(AFSDIR_SERVER_VOLSERLOG_FILEPATH);
381     SetupLogSignals();
382
383     {
384 #ifdef AFS_PTHREAD_ENV
385         pthread_t tid;
386         pthread_attr_t tattr;
387         assert(pthread_attr_init(&tattr) == 0);
388         assert(pthread_attr_setdetachstate(&tattr, PTHREAD_CREATE_DETACHED) == 0);
389
390         assert(pthread_create(&tid, &tattr, BKGLoop, NULL) == 0);
391         assert(pthread_create(&tid, &tattr, BKGSleep, NULL) == 0);
392 #else
393         PROCESS pid;
394         LWP_CreateProcess(BKGLoop, 16*1024, 3, 0, "vol bkg daemon", &pid);
395         LWP_CreateProcess(BKGSleep,16*1024, 3, 0, "vol slp daemon", &pid);
396 #endif
397     }
398
399     /* Create a single security object, in this case the null security object, for unauthenticated connections, which will be used to control security on connections made to this server */
400
401     tdir = afsconf_Open(AFSDIR_SERVER_ETC_DIRPATH);
402     if (!tdir) {
403         Abort("volser: could not open conf files in %s\n",
404               AFSDIR_SERVER_ETC_DIRPATH);
405         VS_EXIT(1);
406     }
407     afsconf_GetKey(tdir, 999, &tkey);
408     securityObjects[0] = rxnull_NewServerSecurityObject();
409     securityObjects[1] = (struct rx_securityClass *)0;  /* don't bother with rxvab */
410     securityObjects[2] =
411         rxkad_NewServerSecurityObject(0, tdir, afsconf_GetKey, NULL);
412     if (securityObjects[0] == (struct rx_securityClass *)0)
413         Abort("rxnull_NewServerSecurityObject");
414     service =
415         rx_NewService(0, VOLSERVICE_ID, "VOLSER", securityObjects, 3,
416                       AFSVolExecuteRequest);
417     if (service == (struct rx_service *)0)
418         Abort("rx_NewService");
419     rx_SetBeforeProc(service, MyBeforeProc);
420     rx_SetAfterProc(service, MyAfterProc);
421     rx_SetIdleDeadTime(service, 0);     /* never timeout */
422     if (lwps < 4)
423         lwps = 4;
424     rx_SetMaxProcs(service, lwps);
425 #ifdef AFS_SGI_ENV
426     rx_SetStackSize(service, 49152);
427 #else
428     rx_SetStackSize(service, 32768);
429 #endif
430
431     service =
432         rx_NewService(0, RX_STATS_SERVICE_ID, "rpcstats", securityObjects, 3,
433                       RXSTATS_ExecuteRequest);
434     if (service == (struct rx_service *)0)
435         Abort("rx_NewService");
436     rx_SetMinProcs(service, 2);
437     rx_SetMaxProcs(service, 4);
438
439     Log("Starting AFS Volserver %s (%s)\n", VolserVersion, commandLine);
440     if (TTsleep) {
441         Log("Will sleep %d second%s every %d second%s\n", TTsleep,
442             (TTsleep > 1) ? "s" : "", TTrun + TTsleep,
443             (TTrun + TTsleep > 1) ? "s" : "");
444     }
445
446     /* allow super users to manage RX statistics */
447     rx_SetRxStatUserOk(vol_rxstat_userok);
448
449     rx_StartServer(1);          /* Donate this process to the server process pool */
450
451     osi_audit(VS_FinishEvent, (-1), AUD_END);
452     Abort("StartServer returned?");
453 }