0b0091b3d554d011d7833e8de3caa01b7c6b2cda
[openafs.git] / doc / man-pages / pod8 / fileserver.pod
1 =head1 NAME
2
3 fileserver - Initializes the File Server component of the fs process
4
5 =head1 SYNOPSIS
6
7 =for html
8 <div class="synopsis">
9
10 B<fileserver> S<<< [B<-auditlog> <I<path to log file>>] >>>
11     S<<< [B<-audit-interface> (file | sysvmq)] >>>
12     S<<< [B<-d> <I<debug level>>] >>>
13     S<<< [B<-p> <I<number of processes>>] >>>
14     S<<< [B<-spare> <I<number of spare blocks>>] >>>
15     S<<< [B<-pctspare> <I<percentage spare>>] >>>
16     S<<< [B<-b> <I<buffers>>] >>>
17     S<<< [B<-l> <I<large vnodes>>] >>>
18     S<<< [B<-s> <I<small vnodes>>] >>>
19     S<<< [B<-vc> <I<volume cachesize>>] >>>
20     S<<< [B<-w> <I<call back wait interval>>] >>>
21     S<<< [B<-cb> <I<number of call backs>>] >>>
22     S<<< [B<-banner>] >>>
23     S<<< [B<-novbc>] >>>
24     S<<< [B<-implicit> <I<admin mode bits: rlidwka>>] >>>
25     S<<< [B<-readonly>] >>>
26     S<<< [B<-hr> <I<number of hours between refreshing the host cps>>] >>>
27     S<<< [B<-busyat> <I<< redirect clients when queue > n >>>] >>>
28     S<<< [B<-nobusy>] >>>
29     S<<< [B<-rxpck> <I<number of rx extra packets>>] >>>
30     S<<< [B<-rxdbg>] >>>
31     S<<< [B<-rxdbge>] >>>
32     S<<< [B<-rxmaxmtu> <I<bytes>>] >>>
33     S<<< [B<-nojumbo> >>>
34     S<<< [B<-jumbo> >>>
35     S<<< [B<-rxbind> >>>
36     S<<< [B<-allow-dotted-principals>] >>>
37     S<<< [B<-L>] >>>
38     S<<< [B<-S>] >>>
39     S<<< [B<-k> <I<stack size>>] >>>
40     S<<< [B<-realm> <I<Kerberos realm name>>] >>>
41     S<<< [B<-udpsize> <I<size of socket buffer in bytes>>] >>>
42     S<<< [B<-sendsize> <I<size of send buffer in bytes>>] >>>
43     S<<< [B<-abortthreshold> <I<abort threshold>>] >>>
44     S<<< [B<-enable_peer_stats>] >>>
45     S<<< [B<-enable_process_stats>] >>>
46     S<<< [B<-syslog> [<I< loglevel >>]] >>>
47     S<<< [B<-mrafslogs>] >>>
48     S<<< [B<-saneacls>] >>>
49     S<<< [B<-help>] >>>
50     S<<< [B<-fs-state-dont-save>] >>>
51     S<<< [B<-fs-state-dont-restore>] >>>
52     S<<< [B<-fs-state-verify>] (none | save | restore | both)] >>>
53     S<<< [B<-vhandle-setaside> <I<fds reserved for non-cache io>>] >>>
54     S<<< [B<-vhandle-max-cachesize> <I<max open files>>] >>>
55     S<<< [B<-vhandle-initial-cachesize> <I<fds reserved for non-cache io>>] >>>
56     S<<< [B<-vhashsize> <I<log(2) of number of volume hash buckets>>] >>>
57     S<<< [B<-vlrudisable>] >>>
58     S<<< [B<-vlruthresh> <I<minutes before eligibility for soft detach>>] >>>
59     S<<< [B<-vlruinterval> <I<seconds between VLRU scans>>] >>>
60     S<<< [B<-vlrumax> <I<max volumes to soft detach in one VLRU scan>>] >>>
61     S<<< [B<-vattachpar> <I<number of volume attach threads>>] >>>
62     S<<< [B<-m> <I<min percentage spare in partition>>] >>>
63     S<<< [B<-lock>] >>>
64
65 =for html
66 </div>
67
68 =head1 DESCRIPTION
69
70 The B<fileserver> command initializes the File Server component of the
71 C<fs> process. In the conventional configuration, its binary file is
72 located in the F</usr/afs/bin> directory on a file server machine.
73
74 The B<fileserver> command is not normally issued at the command shell
75 prompt, but rather placed into a database server machine's
76 F</usr/afs/local/BosConfig> file with the B<bos create> command. If it is
77 ever issued at the command shell prompt, the issuer must be logged onto a
78 file server machine as the local superuser C<root>.
79
80 The File Server creates the F</usr/afs/logs/FileLog> log file as it
81 initializes, if the file does not already exist. It does not write a
82 detailed trace by default, but the B<-d> option may be used to
83 increase the amount of detail. Use the B<bos getlog> command to
84 display the contents of the log file.
85
86 The command's arguments enable the administrator to control many aspects
87 of the File Server's performance, as detailed in L<OPTIONS>.  By default
88 the B<fileserver> command sets values for many arguments that are suitable
89 for a medium-sized file server machine. To set values suitable for a small
90 or large file server machine, use the B<-S> or B<-L> flag
91 respectively. The following list describes the parameters and
92 corresponding argument for which the B<fileserver> command sets default
93 values, and the table below summarizes the setting for each of the three
94 machine sizes.
95
96 =over 4
97
98 =item *
99
100 The maximum number of lightweight processes (LWPs) or pthreads 
101 the File Server uses to handle requests for data; corresponds to the 
102 B<-p> argument. The File Server always uses a minimum of 32 KB of 
103 memory for these processes.
104
105 =item *
106
107 The maximum number of directory blocks the File Server caches in memory;
108 corresponds to the B<-b> argument. Each cached directory block (buffer)
109 consumes 2,092 bytes of memory.
110
111 =item *
112
113 The maximum number of large vnodes the File Server caches in memory for
114 tracking directory elements; corresponds to the B<-l> argument. Each large
115 vnode consumes 292 bytes of memory.
116
117 =item *
118
119 The maximum number of small vnodes the File Server caches in memory for
120 tracking file elements; corresponds to the B<-s> argument.  Each small
121 vnode consumes 100 bytes of memory.
122
123 =item *
124
125 The maximum volume cache size, which determines how many volumes the File
126 Server can cache in memory before having to retrieve data from disk;
127 corresponds to the B<-vc> argument.
128
129 =item *
130
131 The maximum number of callback structures the File Server caches in
132 memory; corresponds to the B<-cb> argument. Each callback structure
133 consumes 16 bytes of memory.
134
135 =item *
136
137 The maximum number of Rx packets the File Server uses; corresponds to the
138 B<-rxpck> argument. Each packet consumes 1544 bytes of memory.
139
140 =back
141
142 The default values are:
143
144   Parameter (Argument)               Small (-S)     Medium   Large (-L)
145   ---------------------------------------------------------------------
146   Number of LWPs (-p)                        6           9          128
147   Number of cached dir blocks (-b)          70          90          120
148   Number of cached large vnodes (-l)       200         400          600
149   Number of cached small vnodes (-s)       200         400          600
150   Maximum volume cache size (-vc)          200         400          600
151   Number of callbacks (-cb)             20,000      60,000       64,000
152   Number of Rx packets (-rxpck)            100         150          200
153
154 To override any of the values, provide the indicated argument (which can
155 be combined with the B<-S> or B<-L> flag).
156
157 The amount of memory required for the File Server varies. The approximate
158 default memory usage is 751 KB when the B<-S> flag is used (small
159 configuration), 1.1 MB when all defaults are used (medium configuration),
160 and 1.4 MB when the B<-L> flag is used (large configuration). If
161 additional memory is available, increasing the value of the B<-cb> and
162 B<-vc> arguments can improve File Server performance most directly.
163
164 By default, the File Server allows a volume to exceed its quota by 1 MB
165 when an application is writing data to an existing file in a volume that
166 is full. The File Server still does not allow users to create new files in
167 a full volume. To change the default, use one of the following arguments:
168
169 =over 4
170
171 =item *
172
173 Set the B<-spare> argument to the number of extra kilobytes that the File
174 Server allows as overage. A value of C<0> allows no overage.
175
176 =item *
177
178 Set the B<-pctspare> argument to the percentage of the volume's quota the
179 File Server allows as overage.
180
181 =back
182
183 By default, the File Server implicitly grants the C<a> (administer) and
184 C<l> (lookup) permissions to system:administrators on the access control
185 list (ACL) of every directory in the volumes stored on its file server
186 machine. In other words, the group's members can exercise those two
187 permissions even when an entry for the group does not appear on an ACL. To
188 change the set of default permissions, use the B<-implicit> argument.
189
190 The File Server maintains a I<host current protection subgroup> (I<host
191 CPS>) for each client machine from which it has received a data access
192 request. Like the CPS for a user, a host CPS lists all of the Protection
193 Database groups to which the machine belongs, and the File Server compares
194 the host CPS to a directory's ACL to determine in what manner users on the
195 machine are authorized to access the directory's contents. When the B<pts
196 adduser> or B<pts removeuser> command is used to change the groups to
197 which a machine belongs, the File Server must recompute the machine's host
198 CPS in order to notice the change. By default, the File Server contacts
199 the Protection Server every two hours to recompute host CPSs, implying
200 that it can take that long for changed group memberships to become
201 effective. To change this frequency, use the B<-hr> argument.
202
203 The File Server stores volumes in partitions. A partition is a
204 filesystem or directory on the server machine that is named C</vicepX>
205 or C</vicepXX> where XX is "a" through "z" or "aa" though "iv". Up to
206 255 partitions are allowed. The File Server expects that the /vicepXX
207 directories are each on a dedicated filesystem. The File Server will
208 only use a /vicepXX if it's a mountpoint for another filesystem,
209 unless the file C</vicepXX/AlwaysAttach> exists. The data in the
210 partition is a special format that can only be access using OpenAFS
211 commands or an OpenAFS client.
212
213 The File Server generates the following message when a partition is nearly
214 full:
215
216    No space left on device
217
218 This command does not use the syntax conventions of the AFS command
219 suites. Provide the command name and all option names in full.
220
221 =head1 CAUTIONS
222
223 Do not use the B<-k> and B<-w> arguments, which are intended for use
224 by the OpenAFS developers only. Changing them from their default
225 values can result in unpredictable File Server behavior.  In any case,
226 on many operating systems the File Server uses native threads rather
227 than the LWP threads, so using the B<-k> argument to set the number of
228 LWP threads has no effect.
229
230 Do not specify both the B<-spare> and B<-pctspare> arguments. Doing so
231 causes the File Server to exit, leaving an error message in the
232 F</usr/afs/logs/FileLog> file.
233
234 Options that are available only on some system types, such as the B<-m>
235 and B<-lock> options, appear in the output generated by the B<-help>
236 option only on the relevant system type.
237
238 Currently, the maximum size of a volume is 2 terabytes (2^31 bytes)
239 and the maximum size of a /vicepX partition on a fileserver is 2^64
240 kilobytes. The maximum partition size in releases 1.4.7 and earlier is
241 2 terabytes (2^31 bytes). The maximum partition size for 1.5.x
242 releases 1.5.34 and earlier is 2 terabytes as well.
243
244 The maximum number of directory entries is 64,000 if all of the entries
245 have names that are 15 octets or less in length. A name that is 15 octets
246 long requires the use of only one block in the directory. Additional
247 sequential blocks are required to store entries with names that are longer
248 than 15 octets. Each additional block provides an additional length of 32
249 octets for the name of the entry. Note that if file names use an encoding
250 like UTF-8, a single character may be encoded into multiple octets.
251
252 In real world use, the maximum number of objects in an AFS directory
253 is usually between 16,000 and 25,000, depending on the average name
254 length.
255
256 =head1 OPTIONS
257
258 =over 4
259
260 =item B<-auditlog> <I<log path>>
261
262 Turns on audit logging, and sets the path for the audit log.  The audit
263 log records information about RPC calls, including the name of the RPC
264 call, the host that submitted the call, the authenticated entity (user)
265 that issued the call, the parameters for the call, and if the call
266 succeeded or failed.
267
268 =item B<-audit-interface> (file | sysvmq)
269
270 Specifies what audit interface to use. The C<file> interface writes audit
271 messages to the file passed to B<-auditlog>. The C<sysvmq> interface
272 writes audit messages to a SYSV message (see L<msgget(2)> and
273 L<msgrcv(2)>). The message queue the C<sysvmq> interface writes to has the
274 key C<ftok(path, 1)>, where C<path> is the path specified in the
275 B<-auditlog> option.
276
277 Defaults to C<file>.
278
279 =item B<-d> <I<debug level>>
280
281 Sets the detail level for the debugging trace written to the
282 F</usr/afs/logs/FileLog> file. Provide one of the following values, each
283 of which produces an increasingly detailed trace: C<0>, C<1>, C<5>, C<25>,
284 and C<125>. The default value of C<0> produces only a few messages.
285
286 =item B<-p> <I<number of processes>>
287
288 Sets the number of threads (or LWPs) to run. Provide a positive integer. 
289 The File Server creates and uses five threads for special purposes, 
290 in addition to the number specified (but if this argument specifies 
291 the maximum possible number, the File Server automatically uses five 
292 of the threads for its own purposes).
293
294 The maximum number of threads can differ in each release of OpenAFS.
295 Consult the I<OpenAFS Release Notes> for the current release.
296
297 =item B<-spare> <I<number of spare blocks>>
298
299 Specifies the number of additional kilobytes an application can store in a
300 volume after the quota is exceeded. Provide a positive integer; a value of
301 C<0> prevents the volume from ever exceeding its quota. Do not combine
302 this argument with the B<-pctspare> argument.
303
304 =item B<-pctspare> <I<percentage spare>>
305
306 Specifies the amount by which the File Server allows a volume to exceed
307 its quota, as a percentage of the quota. Provide an integer between C<0>
308 and C<99>. A value of C<0> prevents the volume from ever exceeding its
309 quota. Do not combine this argument with the B<-spare> argument.
310
311 =item B<-b> <I<buffers>>
312
313 Sets the number of directory buffers. Provide a positive integer.
314
315 =item B<-l> <I<large vnodes>>
316
317 Sets the number of large vnodes available in memory for caching directory
318 elements. Provide a positive integer.
319
320 =item B<-s> <I<small nodes>>
321
322 Sets the number of small vnodes available in memory for caching file
323 elements. Provide a positive integer.
324
325 =item B<-vc> <I<volume cachesize>>
326
327 Sets the number of volumes the File Server can cache in memory.  Provide a
328 positive integer.
329
330 =item B<-w> <I<call back wait interval>>
331
332 Sets the interval at which the daemon spawned by the File Server performs
333 its maintenance tasks. Do not use this argument; changing the default
334 value can cause unpredictable behavior.
335
336 =item B<-cb> <I<number of callbacks>>
337
338 Sets the number of callbacks the File Server can track. Provide a positive
339 integer.
340
341 =item B<-banner>
342
343 Prints the following banner to F</dev/console> about every 10 minutes.
344
345    File Server is running at I<time>.
346
347 =item B<-novbc>
348
349 Prevents the File Server from breaking the callbacks that Cache Managers
350 hold on a volume that the File Server is reattaching after the volume was
351 offline (as a result of the B<vos restore> command, for example). Use of
352 this flag is strongly discouraged.
353
354 =item B<-implicit> <I<admin mode bits>>
355
356 Defines the set of permissions granted by default to the
357 system:administrators group on the ACL of every directory in a volume
358 stored on the file server machine. Provide one or more of the standard
359 permission letters (C<rlidwka>) and auxiliary permission letters
360 (C<ABCDEFGH>), or one of the shorthand notations for groups of permissions
361 (C<all>, C<none>, C<read>, and C<write>). To review the meaning of the
362 permissions, see the B<fs setacl> reference page.
363
364 =item B<-readonly>
365
366 Don't allow writes to this fileserver.
367
368 =item B<-hr> <I<number of hours between refreshing the host cps>>
369
370 Specifies how often the File Server refreshes its knowledge of the
371 machines that belong to protection groups (refreshes the host CPSs for
372 machines). The File Server must update this information to enable users
373 from machines recently added to protection groups to access data for which
374 those machines now have the necessary ACL permissions.
375
376 =item B<-busyat> <I<< redirect clients when queue > n >>>
377
378 Defines the number of incoming RPCs that can be waiting for a response
379 from the File Server before the File Server returns the error code
380 C<VBUSY> to the Cache Manager that sent the latest RPC. In response, the
381 Cache Manager retransmits the RPC after a delay. This argument prevents
382 the accumulation of so many waiting RPCs that the File Server can never
383 process them all. Provide a positive integer.  The default value is
384 C<600>.
385
386 =item B<-rxpck> <I<number of rx extra packets>>
387
388 Controls the number of Rx packets the File Server uses to store data for
389 incoming RPCs that it is currently handling, that are waiting for a
390 response, and for replies that are not yet complete. Provide a positive
391 integer.
392
393 =item B<-rxdbg>
394
395 Writes a trace of the File Server's operations on Rx packets to the file
396 F</usr/afs/logs/rx_dbg>.
397
398 =item B<-rxdbge>
399
400 Writes a trace of the File Server's operations on Rx events (such as
401 retransmissions) to the file F</usr/afs/logs/rx_dbg>.
402
403 =item B<-rxmaxmtu> <I<bytes>>
404
405 Defines the maximum size of an MTU.  The value must be between the
406 minimum and maximum packet data sizes for Rx.
407
408 =item B<-jumbo>
409
410 Allows the server to send and receive jumbograms. A jumbogram is
411 a large-size packet composed of 2 to 4 normal Rx data packets that share
412 the same header. The fileserver does not use jumbograms by default, as some
413 routers are not capable of properly breaking the jumbogram into smaller
414 packets and reassembling them.
415
416 =item B<-nojumbo>
417
418 Deprecated; jumbograms are disabled by default.
419
420 =item B<-rxbind>
421
422 Force the fileserver to only bind to one IP address.
423
424 =item B<-allow-dotted-principals>
425
426 By default, the RXKAD security layer will disallow access by Kerberos
427 principals with a dot in the first component of their name. This is to avoid
428 the confusion where principals user/admin and user.admin are both mapped to the
429 user.admin PTS entry. Sites whose Kerberos realms don't have these collisions 
430 between principal names may disable this check by starting the server
431 with this option.
432
433 =item B<-L>
434
435 Sets values for many arguments in a manner suitable for a large file
436 server machine. Combine this flag with any option except the B<-S> flag;
437 omit both flags to set values suitable for a medium-sized file server
438 machine.
439
440 =item B<-S>
441
442 Sets values for many arguments in a manner suitable for a small file
443 server machine. Combine this flag with any option except the B<-L> flag;
444 omit both flags to set values suitable for a medium-sized file server
445 machine.
446
447 =item B<-k> <I<stack size>>
448
449 Sets the LWP stack size in units of 1 kilobyte. Do not use this argument,
450 and in particular do not specify a value less than the default of C<24>.
451
452 =item B<-realm> <I<Kerberos realm name>>
453
454 Defines the Kerberos realm name for the File Server to use. If this
455 argument is not provided, it uses the realm name corresponding to the cell
456 listed in the local F</usr/afs/etc/ThisCell> file.
457
458 =item B<-udpsize> <I<size of socket buffer in bytes>>
459
460 Sets the size of the UDP buffer, which is 64 KB by default. Provide a
461 positive integer, preferably larger than the default.
462
463 =item B<-sendsize> <I<size of send buffer in bytes>>
464
465 Sets the size of the send buffer, which is 16384 bytes by default.
466
467 =item B<-abortthreshold> <I<abort threshold>>
468
469 Sets the abort threshold, which is triggered when an AFS client sends
470 a number of FetchStatus requests in a row and all of them fail due to
471 access control or some other error. When the abort threshold is
472 reached, the file server starts to slow down the responses to the
473 problem client in order to reduce the load on the file server.
474
475 The throttling behaviour can cause issues especially for some versions
476 of the Windows OpenAFS client. When using Windows Explorer to navigate
477 the AFS directory tree, directories with only "look" access for the
478 current user may load more slowly because of the throttling. This is
479 because the Windows OpenAFS client sends FetchStatus calls one at a
480 time instead of in bulk like the Unix Open AFS client.
481
482 Setting the threshold to 0 disables the throttling behavior. This
483 option is available in OpenAFS versions 1.4.1 and later.
484
485 =item B<-enable_peer_stats>
486
487 Activates the collection of Rx statistics and allocates memory for their
488 storage. For each connection with a specific UDP port on another machine,
489 a separate record is kept for each type of RPC (FetchFile, GetStatus, and
490 so on) sent or received. To display or otherwise access the records, use
491 the Rx Monitoring API.
492
493 =item B<-enable_process_stats>
494
495 Activates the collection of Rx statistics and allocates memory for their
496 storage. A separate record is kept for each type of RPC (FetchFile,
497 GetStatus, and so on) sent or received, aggregated over all connections to
498 other machines. To display or otherwise access the records, use the Rx
499 Monitoring API.
500
501 =item B<-syslog [<loglevel>]
502
503 Use syslog instead of the normal logging location for the fileserver
504 process.  If provided, log messages are at <loglevel> instead of the
505 default LOG_USER.
506
507 =item B<-mrafslogs>
508
509 Use MR-AFS (Multi-Resident) style logging.  This option is deprecated.
510
511 =item B<-saneacls>
512
513 Offer the SANEACLS capability for the fileserver.  This option is
514 currently unimplemented.
515
516 =item B<-help>
517
518 Prints the online help for this command. All other valid options are
519 ignored.
520
521 =item B<-fs-state-dont-save>
522
523 When present, fileserver state will not be saved during shutdown.  Default
524 is to save state.
525
526 This option is only supported by the demand-attach file server.
527
528 =item B<-fs-state-dont-restore>
529
530 When present, fileserver state will not be restored during startup.
531 Default is to restore state on startup.
532
533 This option is only supported by the demand-attach file server.
534
535 =item B<-fs-state-verify> (none | save | restore | both)
536
537 This argument controls the behavior of the state verification mechanism.
538 A value of C<none> turns off all verification.  A value of C<save> only
539 performs the verification steps prior to saving state to disk.  A value
540 of C<restore> only performs the verification steps after restoring state
541 from disk.  A value of C<both> performs all verifications steps both
542 prior to save and following a restore.
543
544 The default is C<both>.
545
546 This option is only supported by the demand-attach file server.
547
548 =item B<-vhandle-setaside> <I<fds reserved for non-cache io>>
549
550 Number of file handles set aside for I/O not in the cache. Defaults to 128.
551
552 =item B<-vhandle-max-cachesize> <I<max open files>>
553
554 Maximum number of available file handles.
555
556 =item B<-vhandle-initial-cachesize> <I<initial open file cache>>
557
558 Number of file handles set aside for I/O in the cache. Defaults to 128.
559
560 =item B<-vhashsize <I<size>>
561
562 The log(2) number of of volume hash buckets.  Default is 8 (i.e., by
563 default, there are 2^8 = 256 volume hash buckets).
564
565 This option is only supported by the demand-attach file server.
566
567 =item B<-vlruthresh <I<minutes>>
568
569 The number of minutes of inactivity before a volume is eligible for soft
570 detachment.  Default is 120 minutes.
571
572 This option is only supported by the demand-attach file server.
573
574 =item B<-vlruinterval <I<seconds>>
575
576 The number of seconds between VLRU candidate queue scan.  The default is
577 120 seconds.
578
579 This option is only supported by the demand-attach file server.
580
581 =item B<-vlrumax <I<positive integer>>
582
583 The maximum number of volumes which can be soft detached in a single pass
584 of the scanner.  Default is 8 volumes.
585
586 This option is only supported by the demand-attach file server.
587
588 =item B<-vattachpar> <I<number of volume attach threads>>
589
590 The number of threads assigned to attach and detach volumes.  The default
591 is 1.  Warning: many of the I/O parallism features of Demand-Attach
592 Fileserver are turned off when the number of volume attach threads is only
593 1.
594
595 This option is only meaningful for a file server built with pthreads
596 support.
597
598 =item B<-m> <I<min percentage spare in partition>>
599
600 Specifies the percentage of each AFS server partition that the AIX version
601 of the File Server creates as a reserve. Specify an integer value between
602 C<0> and C<30>; the default is 8%. A value of C<0> means that the
603 partition can become completely full, which can have serious negative
604 consequences.  This option is not supported on platforms other than AIX.
605
606 =item B<-lock>
607
608 Prevents any portion of the fileserver binary from being paged (swapped)
609 out of memory on a file server machine running the IRIX operating system.
610 This option is not supported on platforms other than IRIX.
611
612 =back
613
614 =head1 EXAMPLES
615
616 The following B<bos create> command creates an fs process on the file
617 server machine C<fs2.abc.com> that uses the large configuration size, and
618 allows volumes to exceed their quota by 10%. Type the command on a single
619 line:
620
621    % bos create -server fs2.abc.com -instance fs -type fs \
622                 -cmd "/usr/afs/bin/fileserver -pctspare 10 \
623                 -L" /usr/afs/bin/volserver /usr/afs/bin/salvager
624
625
626 =head1 TROUBLESHOOTING
627
628 Sending process signals to the File Server Process can change its
629 behavior in the following ways:
630
631   Process          Signal       OS     Result
632   ---------------------------------------------------------------------
633
634   File Server      XCPU        Unix    Prints a list of client IP
635                                        Addresses.
636
637   File Server      USR2      Windows   Prints a list of client IP
638                                        Addresses.
639
640   File Server      POLL        HPUX    Prints a list of client IP
641                                        Addresses.
642
643   Any server       TSTP        Any     Increases Debug level by a power
644                                        of 5 -- 1,5,25,125, etc.
645                                        This has the same effect as the
646                                        -d XXX command-line option.
647
648   Any Server       HUP         Any     Resets Debug level to 0
649
650   File Server      TERM        Any     Run minor instrumentation over
651                                        the list of descriptors.
652
653   Other Servers    TERM        Any     Causes the process to quit.
654
655   File Server      QUIT        Any     Causes the File Server to Quit.
656                                        Bos Server knows this.
657
658 The basic metric of whether an AFS file server is doing well is the number
659 of connections waiting for a thread,
660 which can be found by running the following command:
661
662    % rxdebug <server> | grep waiting_for | wc -l
663
664 Each line returned by C<rxdebug> that contains the text "waiting_for"
665 represents a connection that's waiting for a file server thread.
666
667 If the blocked connection count is ever above 0, the server is having
668 problems replying to clients in a timely fashion.  If it gets above 10,
669 roughly, there will be noticeable slowness by the user.  The total number of
670 connections is a mostly irrelevant number that goes essentially
671 monotonically for as long as the server has been running and then goes back
672 down to zero when it's restarted.
673
674 The most common cause of blocked connections rising on a server is some
675 process somewhere performing an abnormal number of accesses to that server
676 and its volumes.  If multiple servers have a blocked connection count, the
677 most likely explanation is that there is a volume replicated between those
678 servers that is absorbing an abnormally high access rate.
679
680 To get an access count on all the volumes on a server, run:
681
682    % vos listvol <server> -long
683
684 and save the output in a file.  The results will look like a bunch of B<vos
685 examine> output for each volume on the server.  Look for lines like:
686
687    40065 accesses in the past day (i.e., vnode references)
688
689 and look for volumes with an abnormally high number of accesses.  Anything
690 over 10,000 is fairly high, but some volumes like root.cell and other
691 volumes close to the root of the cell will have that many hits routinely.
692 Anything over 100,000 is generally abnormally high.  The count resets about
693 once a day.
694
695 Another approach that can be used to narrow the possibilities for a
696 replicated volume, when multiple servers are having trouble, is to find all
697 replicated volumes for that server.  Run:
698
699    % vos listvldb -server <server>
700
701 where <server> is one of the servers having problems to refresh the VLDB
702 cache, and then run:
703
704    % vos listvldb -server <server> -part <partition>
705
706 to get a list of all volumes on that server and partition, including every
707 other server with replicas.
708
709 Once the volume causing the problem has been identified, the best way to
710 deal with the problem is to move that volume to another server with a low
711 load or to stop any runaway programs that are accessing that volume
712 unnecessarily.  Often the volume will be enough information to tell what's
713 going on.
714
715 If you still need additional information about who's hitting that server,
716 sometimes you can guess at that information from the failed callbacks in the
717 F<FileLog> log in F</var/log/afs> on the server, or from the output of:
718
719    % /usr/afsws/etc/rxdebug <server> -rxstats
720
721 but the best way is to turn on debugging output from the file server.
722 (Warning: This generates a lot of output into FileLog on the AFS server.)
723 To do this, log on to the AFS server, find the PID of the fileserver
724 process, and do:
725
726     kill -TSTP <pid>
727
728 where <pid> is the PID of the file server process.  This will raise the
729 debugging level so that you'll start seeing what people are actually doing
730 on the server.  You can do this up to three more times to get even more
731 output if needed.  To reset the debugging level back to normal, use (The
732 following command will NOT terminate the file server):
733
734     kill -HUP <pid>
735
736 The debugging setting on the File Server should be reset back to normal when
737 debugging is no longer needed.  Otherwise, the AFS server may well fill its
738 disks with debugging output.
739
740 The lines of the debugging output that are most useful for debugging load
741 problems are:
742
743     SAFS_FetchStatus,  Fid = 2003828163.77154.82248, Host 171.64.15.76
744     SRXAFS_FetchData, Fid = 2003828163.77154.82248
745
746 (The example above is partly truncated to highlight the interesting
747 information).  The Fid identifies the volume and inode within the volume;
748 the volume is the first long number.  So, for example, this was:
749
750    % vos examine 2003828163
751    pubsw.matlab61                   2003828163 RW    1040060 K  On-line
752        afssvr5.Stanford.EDU /vicepa 
753        RWrite 2003828163 ROnly 2003828164 Backup 2003828165 
754        MaxQuota    3000000 K 
755        Creation    Mon Aug  6 16:40:55 2001
756        Last Update Tue Jul 30 19:00:25 2002
757        86181 accesses in the past day (i.e., vnode references)
758
759        RWrite: 2003828163    ROnly: 2003828164    Backup: 2003828165
760        number of sites -> 3
761           server afssvr5.Stanford.EDU partition /vicepa RW Site 
762           server afssvr11.Stanford.EDU partition /vicepd RO Site 
763           server afssvr5.Stanford.EDU partition /vicepa RO Site 
764
765 and from the Host information one can tell what system is accessing that
766 volume.
767
768 Note that the output of L<vos_examine(1)> also includes the access count, so
769 once the problem has been identified, vos examine can be used to see if the
770 access count is still increasing.  Also remember that you can run vos
771 examine on the read-only replica (e.g., pubsw.matlab61.readonly) to see the
772 access counts on the read-only replica on all of the servers that it's
773 located on.
774
775 =head1 PRIVILEGE REQUIRED
776
777 The issuer must be logged in as the superuser C<root> on a file server
778 machine to issue the command at a command shell prompt.  It is conventional
779 instead to create and start the process by issuing the B<bos create>
780 command.
781
782 =head1 SEE ALSO
783
784 L<BosConfig(5)>,
785 L<FileLog(5)>,
786 L<bos_create(8)>,
787 L<bos_getlog(8)>,
788 L<fs_setacl(1)>,
789 L<msgget(2)>,
790 L<msgrcv(2)>,
791 L<salvager(8)>,
792 L<volserver(8)>,
793 L<vos_examine(1)>
794
795 =head1 COPYRIGHT
796
797 IBM Corporation 2000. <http://www.ibm.com/> All Rights Reserved.
798
799 This documentation is covered by the IBM Public License Version 1.0.  It was
800 converted from HTML to POD by software written by Chas Williams and Russ
801 Allbery, based on work by Alf Wachsmann and Elizabeth Cassell.