none
[openafs-wiki.git] / AFSLore / AdminFAQ.mdwn
1 ## <a name="3  AFS administration"></a> 3 AFS administration
2
3 The Administration Section of the [[AFSFrequentlyAskedQuestions]].
4
5 - [[PreambleFAQ]]
6 - [[GeneralFAQ]]
7 - [[UsageFAQ]]
8
9 <div>
10   <ul>
11     <li><a href="#3  AFS administration"> 3 AFS administration</a><ul>
12         <li><a href="#3.01  Is there a version of xdm"> 3.01 Is there a version of xdm available with AFS authentication?</a></li>
13         <li><a href="#3.02  Is there a version of xloc"> 3.02 Is there a version of xlock available with AFS authentication?</a></li>
14         <li><a href="#3.03  What is /afs/@cell?"> 3.03 What is /afs/@cell?</a></li>
15         <li><a href="#3.04  Given that AFS data is loc"> 3.04 Given that AFS data is location independent, how does an AFS client determine which server houses the data its user is attempting to access?</a></li>
16         <li><a href="#3.05  How does AFS maintain cons"> 3.05 How does AFS maintain consistency on read-write files?</a></li>
17         <li><a href="#3.06  Which protocols does AFS u"> 3.06 Which protocols does AFS use?</a></li>
18         <li><a href="#3.07  Which TCP/IP ports and pro"> 3.07 Which TCP/IP ports and protocols do I need to enable in order to operate AFS through my Internet firewall?</a></li>
19         <li><a href="#3.08  Are setuid programs execut"> 3.08 Are setuid programs executable across AFS cell boundaries?</a></li>
20         <li><a href="#3.09  How can I run daemons with"> 3.09 How can I run daemons with tokens that do not expire?</a></li>
21         <li><a href="#3.10  Can I check my user's pass"> 3.10 Can I check my user's passwords for security purposes?</a></li>
22         <li><a href="#3.11  Is there a way to automati"> 3.11 Is there a way to automatically balance disk usage across fileservers?</a></li>
23         <li><a href="#3.12  Can I shutdown an AFS file"> 3.12 Can I shutdown an AFS fileserver without affecting users?</a></li>
24         <li><a href="#3.13  How can I set up mail deli"> 3.13 How can I set up mail delivery to users with $HOMEs in AFS?</a></li>
25         <li><a href="#3.14  Should I replicate a _Read"> 3.14 Should I replicate a ReadOnly volume on the same partition and server as the ReadWrite volume?</a></li>
26         <li><a href="#3.15  Should I start AFS before"> 3.15 Should I start AFS before NFS in /etc/inittab?</a></li>
27         <li><a href="#3.16  Will AFS run on a multi-ho"> 3.16 Will AFS run on a multi-homed fileserver?</a></li>
28         <li><a href="#3.17  Can I replicate my user's"> 3.17 Can I replicate my user's home directory AFS volumes?</a></li>
29         <li><a href="#3.18  What is the Andrew Benchma"> 3.18 What is the Andrew Benchmark?</a></li>
30         <li><a href="#3.19  Where can I find the Andre"> 3.19 Where can I find the Andrew Benchmark?</a></li>
31         <li><a href="#3.20  Is there a version of HP V"> 3.20 Is there a version of HP VUE login with AFS authentication?</a></li>
32         <li><a href="#3.21  How can I list which clien"> 3.21 How can I list which clients have cached files from a server?</a></li>
33         <li><a href="#3.22  Do Backup volumes require"> 3.22 Do Backup volumes require as much space as ReadWrite volumes?</a></li>
34         <li><a href="#3.23  Should I run timed on my A"> 3.23 Should I run timed on my AFS client?</a></li>
35         <li><a href="#3.24  Why should I keep /usr/vic"> 3.24 Why should I keep /usr/vice/etc/CellServDB current?</a></li>
36         <li><a href="#3.25  How can I keep /usr/vice/e"> 3.25 How can I keep /usr/vice/etc/CellServDB current?</a></li>
37         <li><a href="#3.26  How can I compute a list o"> 3.26 How can I compute a list of AFS fileservers?</a></li>
38         <li><a href="#3.27  How can I set up anonymous"> 3.27 How can I set up anonymous FTP login to access /afs?</a></li>
39         <li><a href="#3.28 Is the data sent over the n"> 3.28 Is the data sent over the network encrypted in AFS ?</a></li>
40         <li><a href="#3.29 What underlying filesystems"> 3.29 What underlying filesystems can I use for AFS ?</a></li>
41         <li><a href="#3.30 Compiling _OpenAFS"> 3.30 Compiling OpenAFS</a></li>
42         <li><a href="#3.31 Upgrading _OpenAFS"> 3.31 Upgrading OpenAFS</a></li>
43         <li><a href="#3.32 Debugging _OpenAFS"> 3.32 Debugging OpenAFS</a></li>
44         <li><a href="#3.33 Tuning client cache for hug"> 3.33 Tuning client cache for huge data</a></li>
45         <li><a href="#3.34 Settting up PAM with AFS"> 3.34 Settting up PAM with AFS</a></li>
46         <li><a href="#3.35 Setting up AFS key in KDC a"> 3.35 Setting up AFS key in KDC and KeyFile</a></li>
47         <li><a href="#3.36 Obtaining and getting asetk"> 3.36 Obtaining and getting asetkey compiled</a></li>
48         <li><a href="#3.37 afs_krb_get_lrealm() using"> 3.37 afs_krb_get_lrealm() using /usr/afs/etc/krb.conf</a></li>
49         <li><a href="#3.38 Moving from kaserver to Hei"> 3.38 Moving from kaserver to Heimdal KDC</a></li>
50         <li><a href="#3.39 Moving from KTH-KRB4 to Hei"> 3.39 Moving from KTH-KRB4 to Heimdal KDC</a></li>
51         <li><a href="#3.40 What are those bos(1) -type"> 3.40 What are those bos(1) -type values simple and cron?</a></li>
52         <li><a href="#3.41 KDC listens on port 88 inst"> 3.41 KDC listens on port 88 instead of 750</a></li>
53         <li><a href="#3.42 afsd gives me "Error -1 in"> 3.42 afsd gives me "Error -1 in basic initialization." on startup</a></li>
54         <li><a href="#3.43 Although I get krb tickets,"> 3.43 Although I get krb tickets, afslog doesn't give me tokens, I see UDP packets to port 4444</a></li>
55         <li><a href="#3.44 I get error message trhough"> 3.44 I get error message trhough syslogd: "afs: Tokens for user of AFS id 0 for cell foo.bar.baz are discarded (rxkad error=19270407)"</a></li>
56         <li><a href="#3.45 I get tickets and tokens, b"> 3.45 I get tickets and tokens, but still get Permission denied.</a></li>
57         <li><a href="#3.46 Recovering broken afs cache"> 3.46 Recovering broken afs cache on clients</a></li>
58       </ul>
59     </li>
60   </ul>
61 </div>
62
63 - [[ResourcesFAQ]]
64 - [[AboutTheFAQ]]
65 - [[FurtherReading]]
66
67 ### <a name="3.01  Is there a version of xdm"></a><a name="3.01  Is there a version of xdm "></a> 3.01 Is there a version of xdm available with AFS authentication?
68
69 Yes, xdm can be found in:
70
71 <file:///afs/transarc.com/public/afs-contrib/tools/xdm> <ftp://ftp.transarc.com/pub/afs-contrib/tools/xdm/MANIFEST>
72
73 ### <a name="3.02  Is there a version of xloc"></a> 3.02 Is there a version of xlock available with AFS authentication?
74
75 Yes, xlock can be found in:
76
77 <file:///afs/transarc.com/public/afs-contrib/tools/xlock> <ftp://ftp.transarc.com/pub/afs-contrib/tools/xlock/MANIFEST>
78
79 ### <a name="3.03  What is /afs/@cell?"></a> 3.03 What is /afs/@cell?
80
81 It is a symbolic link pointing at /afs/$your\_cell\_name.
82
83 NB, @cell is not something that is provided by AFS. You may decide it is useful in your cell and wish to create it yourself.
84
85 /afs/@cell is useful because:
86
87 - If you look after more than one AFS cell, you could create the link in each cell then set your PATH as:
88   - PATH=$PATH:/afs/@cell/@sys/local/bin
89
90 - For most cells, it shortens the path names to be typed in thus reducing typos and saving time.
91
92 A disadvantage of using this convention is that when you cd into /afs/@cell then type "pwd" you see "/afs/@cell" instead of the full name of your cell. This may appear confusing if a user wants to tell a user in another cell the pathname to a file.
93
94 You could create your own /afs/@cell with the following:
95
96     #/bin/ksh -
97     # author: mpb
98     [ -L /afs/@cell ] && echo We already have @cell! && exit
99     cell=$(cat /usr/vice/etc/ThisCell)
100     cd /afs/.${cell} && fs mkm temp root.afs
101     cd temp
102     ln -s /afs/${cell} @cell
103     ln -s /afs/.${cell} .@cell            # .@cell for RW path
104     cd /afs/.${cell} && fs rmm temp
105     vos release root.afs; fs checkv
106
107 <http://www-archive.stanford.edu/lists/info-afs/hyper95/0298.html>
108
109 ### <a name="3.04  Given that AFS data is loc"></a> 3.04 Given that AFS data is location independent, how does an AFS client determine which server houses the data its user is attempting to access?
110
111 The Volume Location Database (VLDB) is stored on AFS Database Servers and is ideally replicated across 3 or more Database Server machines. Replication of the Database ensures high availability and load balances the requests for the data. The VLDB maintains information regarding the current physical location of all volume data (files and directories) in the cell, including the IP address of the [[FileServer]], and the name of the disk partition the data is stored on.
112
113 A list of a cell's Database Servers is stored on the local disk of each AFS Client machine as: /usr/vice/etc/CellServDB
114
115 The Database Servers also house the Kerberos Authentication Database (encrypted user and server passwords), the Protection Database (user UID and protection group information) and the Backup Database (used by System Administrators to backup AFS file data to tape).
116
117 ### <a name="3.05  How does AFS maintain cons"></a> 3.05 How does AFS maintain consistency on read-write files?
118
119 AFS uses a mechanism called "callback".
120
121 Callback is a promise from the fileserver that the cache version of a file/directory is up-to-date. It is established by the fileserver with the caching of a file.
122
123 When a file is modified the fileserver breaks the callback. When the user accesses the file again the Cache Manager fetches a new copy if the callback has been broken.
124
125 The following paragraphs describe AFS callback mechanism in more detail:
126
127 If I open() fileA and start reading, and you then open() fileA, write() a change **\*\*and close() or fsync()\*\*** the file to get your changes back to the server - at the time the server accepts and writes your changes to the appropriate location on the server disk, the server also breaks callbacks to all clients to which it issued a copy of fileA.
128
129 So my client receives a message to break the callback on fileA, which it dutifully does. But my application (editor, spreadsheet, whatever I'm using to read fileA) is still running, and doesn't really care that the callback has been broken.
130
131 When something causes the application to read() more of the file the read() system call executes AFS cache manager code via the VFS switch, which does check the callback and therefore gets new copies of the data.
132
133 Of course, the application may not re-read data that it has already read, but that would also be the case if you were both using the same host. So, for both AFS and local files, I may not see your changes.
134
135 Now if I exit the application and start it again, or if the application does another open() on the file, then I will see the changes you've made.
136
137 This information tends to cause tremendous heartache and discontent - but unnecessarily so. People imagine rampant synchronization problems. In practice this rarely happens and in those rare instances, the data in question is typically not critical enough to cause real problems or crashing and burning of applications. Since 1985, we've found that the synchronization algorithm has been more than adequate in practice - but people still like to worry!
138
139 The source of worry is that, if I make changes to a file from my workstation, your workstation is not guaranteed to be notified until I close or fsync the file, at which point AFS guarantees that your workstation will be notified. This is a significant departure from NFS, in which no guarantees are provided.
140
141 Partially because of the worry factor and largely because of Posix, this will change in DFS. DFS synchronization semantics are identical to local file system synchronization.
142
143 [ DFS is the Distributed File System which is part of the Distributed ] [ Computing Environment (DCE). ]
144
145 ### <a name="3.06  Which protocols does AFS u"></a> 3.06 Which protocols does AFS use?
146
147 AFS may be thought of as a collection of protocols and software processes, nested one on top of the other. The constant interaction between and within these levels makes AFS a very sophisticated software system.
148
149 At the lowest level is the UDP protocol, which is part of TCP/IP. UDP is the connection to the actual network wire. The next protocol level is the remote procedure call (RPC). In general, RPCs allow the developer to build applications using the client/server model, hiding the underlying networking mechanisms. AFS uses Rx, an RPC protocol developed specifically for AFS during its development phase at Carnegie Mellon University.
150
151 Above the RPC is a series of server processes and interfaces that all use Rx for communication between machines. Fileserver, volserver, upserver, upclient, and bosserver are server processes that export RPC interfaces to allow their user interface commands to request actions and get information. For example, a bos status  command will examine the bos server process on the indicated file server machine.
152
153 Database servers use ubik, a replicated database mechanism which is implemented using RPC. Ubik guarantees that the copies of AFS databases of multiple server machines remain consistent. It provides an application programming interface (API) for database reads and writes, and uses RPCs to keep the database synchronized. The database server processes, vlserver, kaserver, and ptserver, reside above ubik. These processes export an RPC interface which allows user commands to control their operation. For instance, the pts command is used to communicate with the ptserver, while the command klog uses the kaserver's RPC interface.
154
155 Some application programs are quite complex, and draw on RPC interfaces for communication with an assortment of processes. Scout utilizes the RPC interface to file server processes to display and monitor the status of file servers. The uss command interfaces with kaserver, ptserver, volserver and vlserver to create new user accounts.
156
157 The Cache Manager also exports an RPC interface. This interface is used principally by file server machines to break callbacks. It can also be used to obtain Cache Manager status information. The program cmdebug shows the status of a Cache Manager using this interface.
158
159 For additional information, Section 1.5 of the AFS System Administrator's Guide and the April 1990 Cache Update contain more information on ubik. Udebug information and short descriptions of all debugging tools were included in the January 1991 Cache Update. Future issues will discuss other debugging tools in more detail.
160
161 [ source: <ftp://ftp.transarc.com/pub/afsug/newsletter/apr91> ] [ Copyright 1991 Transarc Corporation ]
162
163 ### <a name="3.07  Which TCP/IP ports and pro"></a> 3.07 Which TCP/IP ports and protocols do I need to enable in order to operate AFS through my Internet firewall?
164
165 Assuming you have already taken care of nameserving, you may wish to use an Internet timeserver for Network Time Protocol [[[NTP|Main/FurtherReading#NTP]]] and the question about [[timed|Main/WebHome#NTP]]:
166
167 ntp 123/udp
168
169 A list of NTP servers is available via anonymous FTP from:
170
171 - <http://www.eecis.udel.edu/~mills/ntp/servers.html>
172
173 For further details on NTP see: <http://www.eecis.udel.edu/~ntp/>
174
175 For a "minimal" AFS service which does not allow inbound or outbound klog:
176
177        cachemanager    4711/udp (only if you use the arla-client instead of OpenAFS)
178        fileserver      7000/udp
179        cachemanager    7001/udp
180        ptserver        7002/udp
181        vlserver        7003/udp
182        kaserver        7004/udp
183        volserver       7005/udp
184        reserved        7006/udp
185        bosserver       7007/udp
186
187 (Ports in the 7020-7029 range are used by the AFS backup system, and won't be needed by external clients performing simple file accesses.)
188
189 Additionally, for "klog" to work through the firewall you need to allow inbound and outbound UDP on ports &gt;1024 (probably 1024&lt;port&lt;2048 would suffice depending on the number of simultaneous klogs).
190
191 See also: <http://www-archive.stanford.edu/lists/info-afs/hyper95/0874.html>
192
193 ### <a name="3.08  Are setuid programs execut"></a> 3.08 Are setuid programs executable across AFS cell boundaries?
194
195 By default, the setuid bit is ignored but the program may be run (without setuid privilege).
196
197 It is possible to configure an AFS client to honour the setuid bit. This is achieved by root running:
198
199        root@toontown # fs setcell -cell $cellname -suid
200
201 (where $cellname is the name of the foreign cell. Use with care!).
202
203 NB: making a program setuid (or setgid) in AFS does **not** mean that the program will get AFS permissions of a user or group. To become AFS authenticated, you have to klog. If you are not authenticated, AFS treats you as "system:anyuser".
204
205 ### <a name="3.09  How can I run daemons with"></a> 3.09 How can I run daemons with tokens that do not expire?
206
207 It is not a good idea to run with tokens that do not expire because this would weaken one of the security features of Kerberos.
208
209 A better approach is to re-authenticate just before the token expires.
210
211 There are two examples of this that have been contributed to afs-contrib. The first is "reauth":
212
213 - <file:///afs/transarc.com/public/afs-contrib/tools/reauth/>
214 - <ftp://ftp.transarc.com/pub/afs-contrib/tools/reauth/MANIFEST>
215 - <ftp://ftp.andrew.cmu.edu/pub/AFS-Tools/reauth-0.0.5.tar.gz>
216
217 The second is "lat":
218
219 <file:///afs/transarc.com/public/afs-contrib/pointers/UMich-lat-authenticated-batch-jobs> <ftp://ftp.transarc.com/pub/afs-contrib/pointers/UMich-lat-authenticated-batch-jobs>
220
221 Another collection of tools was [mentioned](https://lists.openafs.org/pipermail/openafs-info/2002-October/006353.html) by [[DanielClark]]:
222
223 Another option is [OpenPBS](http://www.openpbs.org/) and [Password Storage and Retrieval](http://www.lam-mpi.org/software/psr/) (PSR), where you encrypt your AFS password with a public key and put it in your home directory, and trusted machine(s) which have the private key on local disk then decrypt your password and run your job. MIT uses a variant of this (e.g. [a](http://web.mit.edu/longjobs/www/) &amp; [b](http://mit.edu/longjobs-dev/notebook/)) that uses their own code (see [longjobs documentation](http://web.mit.edu/longjobs-dev/doc/netsec.txt) sections III and IV) instead of PSR.
224
225 ### <a name="3.10  Can I check my user&#39;s pass"></a> 3.10 Can I check my user's passwords for security purposes?
226
227 Yes. Alec Muffett's Crack tool (at version 4.1f) has been converted to work on the Transarc kaserver database. This modified Crack (AFS Crack) is available via anonymous ftp from:
228
229 - <ftp://export.acs.cmu.edu/pub/crack.tar.Z>
230 - <ftp://ftp.andrew.cmu.edu/pub/AFS-Tools/crack.tar.Z>
231
232 and is known to work on: pmax\_\* sun4\*\_\* hp700\_\* rs\_aix\* next\_\*
233
234 It uses the file /usr/afs/db/kaserver.DB0, which is the database on the kaserver machine that contains the encrypted passwords. As a bonus, AFS Crack is usually two to three orders of magnitude faster than the standard Crack since there is no concept of salting in a Kerberos database.
235
236 On a normal UNIX /etc/passwd file, each password can have been encrypted around 4096 (2^12) different saltings of the crypt(3) algorithm, so for a large number of users it is easy to see that a potentially large (up to 4095) number of seperate encryptions of each word checked has been avoided.
237
238 Author: Dan Lovinger Contact: Derrick J. Brashear &lt;shadow+@andrew.cmu.edu&gt;
239
240 <table border="1" cellpadding="0" cellspacing="0">
241   <tr>
242     <td> Note: </td>
243     <td> AFS Crack does not work for MIT Kerberos Databases. The author is willing to give general guidance to someone interested in doing the (probably minimal) amount of work to port it to do MIT Kerberos. The author does not have access to a MIT Kerberos server to do this. </td>
244   </tr>
245 </table>
246
247 ### <a name="3.11  Is there a way to automati"></a> 3.11 Is there a way to automatically balance disk usage across fileservers?
248
249 Yes. There is a tool, balance, which does exactly this. It can be retrieved via anonymous ftp from:
250
251 - <ftp://ftp.andrew.cmu.edu/pub/AFS-Tools/balance-1.1b.tar.gz>
252
253 Actually, it is possible to write arbitrary balancing algorithms for this tool. The default set of "agents" provided for the current version of balance balance by usage, # of volumes, and activity per week, the latter currently requiring a source patch to the AFS volserver. Balance is highly configurable.
254
255 Author: Dan Lovinger Contact: Derrick Brashear &lt;shadow+@andrew.cmu.edu&gt;
256
257 ### <a name="3.12  Can I shutdown an AFS file"></a> 3.12 Can I shutdown an AFS fileserver without affecting users?
258
259 Yes, this is an example of the flexibility you have in managing AFS.
260
261 Before attempting to shutdown an AFS fileserver you have to make some arrangements that any services that were being provided are moved to another AFS fileserver:
262
263 1. Move all AFS volumes to another fileserver. (Check you have the space!) This can be done "live" while users are actively using files in those volumes with no detrimental effects.
264
265 1. Make sure that critical services have been replicated on one (or more) other fileserver(s). Such services include:
266   - kaserver - Kerberos Authentication server
267   - vlserver - Volume Location server
268   - ptserver - Protection server
269   - buserver - Backup server
270
271 It is simple to test this before the real shutdown by issuing:
272
273        bos shutdown $server $service
274
275        where: $server is the name of the server to be shutdown
276          and  $service is one (or all) of: kaserver vlserver ptserver buserver
277
278 Other points to bear in mind:
279
280 - "vos remove" any RO volumes on the server to be shutdown. Create corresponding RO volumes on the 2nd fileserver after moving the RW. There are two reasons for this:
281   1. An RO on the same partition ("cheap replica") requires less space than a full-copy RO.
282   2. Because AFS always accesses RO volumes in preference to RW, traffic will be directed to the RO and therefore quiesce the load on the fileserver to be shutdown.
283
284 - If the system to be shutdown has the lowest IP address there may be a brief delay in authenticating because of timeout experienced before contacting a second kaserver.
285
286 ### <a name="3.13  How can I set up mail deli"></a> 3.13 How can I set up mail delivery to users with $HOMEs in AFS?
287
288 There are many ways to do this. Here, only two methods are considered:
289
290 Method 1: deliver into local filestore
291
292 This is the simplest to implement. Set up your mail delivery to append mail to /var/spool/mail/$USER on one mailserver host. The mailserver is an AFS client so users draw their mail out of local filestore into their AFS $HOME (eg: inc).
293
294 Note that if you expect your (AFS unauthenticated) mail delivery program to be able to process .forward files in AFS $HOMEs then you need to add "system:anyuser rl" to each $HOMEs ACL.
295
296 The advantages are:
297
298 - Simple to implement and maintain.
299 - No need to authenticate into AFS.
300
301 The drawbacks are:
302
303 - It doesn't scale very well.
304 - Users have to login to the mailserver to access their new mail.
305 - Probably less secure than having your mailbox in AFS.
306 - System administrator has to manage space in /var/spool/mail.
307
308 Method 2: deliver into AFS
309
310 This takes a little more setting up than the first method.
311
312 First, you must have your mail delivery daemon AFS authenticated (probably as "postman"). The reauth example in afs-contrib shows how a daemon can renew its token. You will also need to setup the daemon startup soon after boot time to klog (see the -pipe option).
313
314 Second, you need to set up the ACLs so that "postman" has lookup rights down to the user's $HOME and "lik" on $HOME/Mail.
315
316 Advantages:
317
318 - Scales better than first method.
319 - Delivers to user's $HOME in AFS giving location independence.
320 - Probably more secure than first method.
321 - User responsible for space used by mail.
322
323 Disadvantages:
324
325 - More complicated to set up.
326 - Need to correctly set ACLs down to $HOME/Mail for every user.
327 - Probably need to store postman's password in a file so that the mail delivery daemon can klog after boot time. This may be OK if the daemon runs on a relatively secure host.
328
329 An example of how to do this for IBM RISC System/6000 is auth-sendmail. A beta test version of auth-sendmail can be found in:
330
331 <file:///afs/transarc.com/public/afs-contrib/doc/faq/auth-sendmail.tar.Z> <ftp://ftp.transarc.com/pub/afs-contrib/doc/faq/auth-sendmail.tar.Z>
332
333 ### <a name="3.14  Should I replicate a _Read"></a> 3.14 Should I replicate a [[ReadOnly]] volume on the same partition and server as the [[ReadWrite]] volume?
334
335 Yes, Absolutely! It improves the robustness of your served volumes.
336
337 If [[ReadOnly]] volumes exist (note use of term **exist** rather than **are available**), Cache Managers will **never** utilize the [[ReadWrite]] version of the volume. The only way to access the RW volume is via the "dot" path (or by special mounting).
338
339 This means if **all** RO copies are on dead servers, are offline, are behind a network partition, etc, then clients will not be able to get the data, even if the RW version of the volume is healthy, on a healthy server and in a healthy network.
340
341 However, you are **very** strongly encouraged to keep one RO copy of a volume on the **same server and partition** as the RW. There are two reasons for this:
342
343 1. The RO that is on the same server and partition as the RW is a clone (just a copy of the header - not a full copy of each file). It therefore is very small, but provides access to the same set of files that all other (full copy) [[ReadOnly]] volume do. Transarc trainers refer to this as the "cheap replica".
344 2. To prevent the frustration that occurs when all your ROs are unavailable but a perfectly healthy RW was accessible but not used.
345
346 If you keep a "cheap replica", then by definition, if the RW is available, one of the RO's is also available, and clients will utilize that site.
347
348 ### <a name="3.15  Should I start AFS before"></a><a name="3.15  Should I start AFS before "></a> 3.15 Should I start AFS before NFS in /etc/inittab?
349
350 Yes, it is possible to run both AFS and NFS on the same system but you should start AFS first.
351
352 In IBM's AIX 3.2, your /etc/inittab would contain:
353
354     rcafs:2:wait:/etc/rc.afs > /dev/console 2>&1 # Start AFS daemons
355     rcnfs:2:wait:/etc/rc.nfs > /dev/console 2>&1 # Start NFS daemons
356
357 With AIX, you need to load NFS kernel extensions before the AFS KEs in /etc/rc.afs like this:
358
359     #!/bin/sh -
360     # example /etc/rc.afs for an AFS fileserver running AIX 3.2
361     #
362     echo "Installing NFS kernel extensions (for AFS+NFS)"
363     /etc/gfsinstall -a /usr/lib/drivers/nfs.ext
364     echo "Installing AFS kernel extensions..."
365     D=/usr/afs/bin/dkload
366     ${D}/cfgexport -a ${D}/export.ext
367     ${D}/cfgafs    -a ${D}/afs.ext
368     /usr/afs/bin/bosserver &
369
370 ### <a name="3.16  Will AFS run on a multi-ho"></a> 3.16 Will AFS run on a multi-homed fileserver?
371
372 (multi-homed = host has more than one network interface.)
373
374 Yes, it will. However, AFS was designed for hosts with a single IP address. There can be problems if you have one host name being resolved to several IP addresses.
375
376 Transarc suggest designating unique hostnames for each network interface. For example, a host called "spot" has two tokenring and one ethernet interfaces: spot-tr0, spot-tr1, spot-en0. Then, select which interface will be used for AFS and use that hostname in the [[CellServDB]] file (eg: spot-tr0).
377
378 You also have to remember to use the AFS interface name with any AFS commands that require a server name (eg: vos listvol spot-tr0).
379
380 There is a more detailed discussion of this in the August 1993 issue of "Cache Update" (see: <ftp://ftp.transarc.com/pub/afsug/newsletter/aug93>).
381
382 The simplest way of dealing with this is to make your AFS fileservers single-homed (eg only use one network interface).
383
384 At release 3.4 of AFS, it is possible to have multi-homed fileservers (but _not_ multi-homed database servers).
385
386 ### <a name="3.17  Can I replicate my user&#39;s"></a><a name="3.17  Can I replicate my user&#39;s "></a> 3.17 Can I replicate my user's home directory AFS volumes?
387
388 No.
389
390 Users with $HOMEs in /afs normally have an AFS [[ReadWrite]] volume mounted in their home directory.
391
392 You can replicate a RW volume but only as a [[ReadOnly]] volume and there can only be one instance of a [[ReadWrite]] volume.
393
394 In theory, you could have RO copies of a user's RW volume on a second server but in practice this won't work for the following reasons:
395
396     a) AFS has built-in bias to always access the RO copy of a RW volume.
397        So the user would have a ReadOnly $HOME which is not too useful!
398
399     b) Even if a) was not true you would have to arrange frequent
400        synchronisation of the RO copy with the RW volume (for example:
401        "vos release user.fred; fs checkv") and this would have to be
402        done for all such user volumes.
403
404     c) Presumably, the idea of replicating is to recover the $HOME
405        in the event of a server crash. Even if a) and b) were not
406        problems consider what you might have to do to recover a $HOME:
407
408        1) Create a new RW volume for the user on the second server
409           (perhaps named "user.fred.2").
410
411        2) Now, where do you mount it?
412
413           The existing mountpoint cannot be used because it already has
414           the ReadOnly copy of the original volume mounted there.
415
416           Let's choose: /afs/MyCell/user/fred.2
417
418        3) Copy data from the RO of the original into the new RW volume
419           user.fred.2
420
421        4) Change the user's entry in the password file for the new $HOME:
422           /afs/MyCell/user/fred.2
423
424        You would have to attempt steps 1 to 4 for every user who had
425        their RW volume on the crashed server. By the time you had done
426        all of this, the crashed server would probably have rebooted.
427
428        The bottom line is: you cannot replicate $HOMEs across servers.
429
430 ### <a name="3.18  What is the Andrew Benchma"></a> 3.18 What is the Andrew Benchmark?
431
432 "It is a script that operates on a collection of files constituting an application program. The operations are intended to represent typical actions of an average user. The input to the benchmark is a source tree of about 70 files. The files total about 200 KB in size. The benchmark consists of five distinct phases:
433
434       I MakeDir - Construct a target subtree that is identical to the
435                   source subtree.
436      II Copy    - Copy every file from the source subtree to the target subtree.
437     III ScanDir - Traverse the target subtree and examine the status
438                   of every file in it.
439      IV ReadAll - Scan every byte of every file in the target subtree.
440       V Make    - Complete and link all files in the target subtree."
441
442 Source: <file:///afs/transarc.com/public/afs-contrib/doc/benchmark/Andrew.Benchmark.ps> <ftp://ftp.transarc.com/pub/afs-contrib/doc/benchmark/Andrew.Benchmark.ps>
443
444 ### <a name="3.19  Where can I find the Andre"></a> 3.19 Where can I find the Andrew Benchmark?
445
446 From Daniel Joseph Barnhart Clark's [message](http://lists.openafs.org/pipermail/openafs-info/2004-April/012942.html):
447
448 It's linked to from <http://www.citi.umich.edu/projects/linux-scalability/tools.html>; CITI also has some useful mods at <http://www.citi.umich.edu/projects/nfs-perf/results/cmarion/>.
449
450 ### <a name="3.20  Is there a version of HP V"></a> 3.20 Is there a version of HP VUE login with AFS authentication?
451
452 Yes, the availability of this is described in: <file:///afs/transarc.com/public/afs-contrib/pointers/HP-VUElogin.txt> <ftp://ftp.transarc.com/pub/afs-contrib/pointers/HP-VUElogin.txt>
453
454 If you don't have access to the above, please contact Rajeev Pandey of Hewlett Packard whose email address is &lt;rpandey@cv.hp.com&gt;.
455
456 ### <a name="3.21  How can I list which clien"></a> 3.21 How can I list which clients have cached files from a server?
457
458 By using the following script:
459
460     #!/bin/ksh -
461     #
462     # NAME          afsclients
463     # AUTHOR        Rainer Toebbicke  <rtb@dxcern.cern.ch>
464     # DATE          June 1994
465     # PURPOSE       Display AFS clients which have grabbed files from a server
466
467     if [ $# = 0 ]; then
468             echo "Usage: $0 <afs_server 1> ... <afsserver n>"
469             exit 1
470     fi
471     for n; do
472             /usr/afsws/etc/rxdebug -servers $n -allconn
473     done | grep '^Connection' | \
474     while  read x y z ipaddr rest; do echo $ipaddr; done | sort -u |
475     while read ipaddr; do
476             ipaddr=${ipaddr%%,}
477             n="`nslookup $ipaddr`"
478             n="${n##*Name: }"
479             n="${n%%Address:*}"
480             n="${n##*([ ])}"
481             n="${n%?}"
482             echo "$n ($ipaddr)"
483     done
484
485 ### <a name="3.22  Do Backup volumes require"></a><a name="3.22  Do Backup volumes require "></a> 3.22 Do Backup volumes require as much space as [[ReadWrite]] volumes?
486
487 No.
488
489 The technique used is to create a new volume, where every file in the RW copy is pointed to by the new backup volume. The files don't exist in the BK, only in the RW volume. The backup volume therefore takes up very little space.
490
491 If the user now starts modifying data, the old copy must not be destroyed.
492
493 There is a Copy-On-Write bit in the vnode - if the fileserver writes to a vnode with the bit on it allocates a new vnode for the data and turns off the COW bit. The BK volume hangs onto the old data, and the RW volume slowly splits itself away over time.
494
495 The BK volume is re-synchronised with the RW next time a "vos backupsys" is run.
496
497 The space needed for the BK volume is directly related to the size of all files changed in the RW between runs of "vos backupsys".
498
499 ### <a name="3.23  Should I run timed on my A"></a> 3.23 Should I run timed on my AFS client?
500
501 No.
502
503 <a name="NTP"></a> The AFS Servers make use of NTP [[[NTP|Main/FurtherReading#NTP]]] to synchronise time each other and typically with one or more external NTP servers. By default, clients synchronize their time with one of the servers in the local cell. Thus all the machines participating in the AFS cell have an accurate view of the time.
504
505 For further details on NTP see: <http://www.eecis.udel.edu/~ntp/>. The latest version is 4.1, dated August 2001, which is **much** more recent that the version packaged with Transarc AFS.
506
507 A list of NTP servers is available via anonymous FTP from:
508
509 - <http://www.eecis.udel.edu/~mills/ntp/servers.html>
510
511 The default time setting behavior of the AFS client can be disabled by specifying the `-nosettime` argument to [afsd](http://www.transarc.ibm.com/Library/documentation/afs/3.5/unix/cmd/cmd53.htm). This is recommended for AFS servers which are also configured as clients (because servers normally run NTP daemons) and for clients that run NTP.
512
513 ### <a name="3.24  Why should I keep /usr/vic"></a> 3.24 Why should I keep /usr/vice/etc/CellServDB current?
514
515 On AFS clients, /usr/vice/etc/CellservDB, defines the cells and (their servers) that can be accessed via /afs.
516
517 Over time, site details change: servers are added/removed or moved onto new network addresses. New sites appear.
518
519 In order to keep up-to-date with such changes, the [[CellservDB]] file on each AFS client should be kept consistent with some master copy (at your site).
520
521 As well as updating [[CellservDB]], your AFS administrator should ensure that new cells are mounted in your cell's root.afs volume.
522
523 If a cell is added to [[CellServDB]] then the **client** must either be restared or you must the AFS command "fs newcell -cell .. -servers ... ...".
524
525 ### <a name="3.25  How can I keep /usr/vice/e"></a> 3.25 How can I keep /usr/vice/etc/CellServDB current?
526
527 Do a daily copy from a master source and update the AFS kernel sitelist.
528
529 One good master source is the grand.central.org [[CellServDB]], available from <http://grand.central.org/dl/cellservdb/CellServDB> or <file:/afs/openafs.org/service/CellServDB> (N.B. update to /afs/grand.central.org path when available). You can send updates for this to <cellservdb@central.org>.
530
531 The client [[CellServDB]] file must not reside under /afs and is best located in local filespace.
532
533 Simply updating a client [[CellServDB]] file is not enough. You also need to update the AFS kernel sitelist by either: 1 rebooting the client or 1 running "fs newcell $cell\_name $server\_list" for each site in the [[CellServDB]] file.
534
535 A script to update the AFS kernel sitelist on a running system is newCellServDB.
536
537 <file:///afs/ece.cmu.edu/usr/awk/Public/newCellServDB> <ftp://ftp.ece.cmu.edu/pub/afs-tools/newCellServDB>
538
539 One way to distribute [[CellServDB]] is to have a root cron job on each AFS client copy the file then run newCellServDB.
540
541 Example:
542
543     #!/bin/ksh -
544     #
545     # NAME       syncCellServDB
546     # PURPOSE    Update local CellServDB file and update AFS kernel sitelist
547     # USAGE      run by daily root cron job eg:
548     #                    0 3 * * * /usr/local/sbin/syncCellServDB
549     #
550     # NOTE       "@cell" is a symbolic link to /afs/$this_cell_name
551
552     src=/afs/@cell/service/etc/CellServDB
553     dst=/usr/vice/etc/CellServDB
554     xec=/usr/local/sbin/newCellServDB
555     log=/var/log/syncCellServDB
556
557     if [ -s ${src} ]; then
558             if [ ${src} -nt ${dst} ]; then
559                     cp $dst ${dst}- && cp $src $dst && $xec 2>&1 >$log
560             else
561                     echo "master copy no newer: no processing to be done" >$log
562             fi
563     else
564             echo "zero length file: ${src}" >&2
565     fi
566
567 ### <a name="3.26  How can I compute a list o"></a> 3.26 How can I compute a list of AFS fileservers?
568
569 Here is a Bourne shell command to do it (it will work in GNU bash and the Korn shell, too):
570
571        stimpy@nick $ vos listvldb -cell `cat /usr/vice/etc/ThisCell` \\
572                      | awk '(/server/) {print $2}' | sort -u
573
574 ### <a name="3.27  How can I set up anonymous"></a> 3.27 How can I set up anonymous FTP login to access /afs?
575
576 The easiest way on a primarily "normal" machine (where you don't want to have everything in AFS) is to actually mount root.cell under ~ftp, and then symlink /afs to ~ftp/afs or whatever. It's as simple as changing the mountpoint in /usr/vice/etc/cacheinfo and restarting afsd.
577
578 Note that when you do this, anon ftp users can go anywhere system:anyuser can (or worse, if you're using IP-based ACLs and the ftp host is PTS groups). The only "polite" solution I've arrived at is to have the ftp host machine run a minimal [[CellServDB]] and police my ACLs tightly.
579
580 Alternatively, you can make ~ftp an AFS volume and just mount whatever you need under that - this works well if you can keep everything in AFS, and you don't have the same problems with anonymous "escapes" into /afs.
581
582 Unless you need to do authenticating ftp, you are _strongly_ recommended using wu-ftpdv2.4 (or better).
583
584 ### <a name="3.28 Is the data sent over the n"></a> 3.28 Is the data sent over the network encrypted in AFS ?
585
586 There is still no easy way to do this in Transarc AFS, but [[OpenAFS]] now has a "fs" subcommand to turn on encryption of regular file data sent and received by a client. This is a per client setting that persist until reboot. No server actions are needed to support this change. The syntax is:
587
588 - `fs setcrypt on`
589 - `fs setcrypt off`
590 - `fs getcrypt`
591
592 Note that this only encrypts network traffic between the client and server. The data on the server's disk is not encrypted nor is the data in the client's disk cache. The encryption algorithm used is [fcrypt](http://tedanderson.home.mindspring.com/fcrypt-paper.txt), which is a DES variant.
593
594 Getting encryption enabled by default:
595
596 - [[RedHat]] Linux: ([src](https://lists.openafs.org/pipermail/openafs-info/2002-July/005085.html)) change the last line of /etc/sysconfig/afs to `AFS_POST_INIT="/usr/bin/fs setcrypt on"`
597 - Windows ([src](https://lists.openafs.org/pipermail/openafs-info/2003-June/009416.html)) set the following registry value named `SecurityLevel` under `HKLM\SYSTEM\CurrentControlSet\Services\TransarcAFSDaemon\Parameters` to 2.
598
599 I have not tested either of these procedures. -- [[TedAnderson]] - 05 Jun 2003
600
601 ### <a name="3.29 What underlying filesystems"></a> 3.29 What underlying filesystems can I use for AFS ?
602
603 See also [[SupportedConfigurations]].
604
605 You need to distinguish between the filesystem used by the file server to store the actual AFS data (by convention in /vicep?) and the filesystem used by the client cache manager to cache files.
606
607 Fileserver is started by bosserver. It depends, what ./configure switches were used during compilation from sources. To be always on the safe side, use --enable-namei-fileserver configure flag. That will give you fileserver binary which can act on any /vicep? partition regardless it's filesystem type. With the new namei file server you can basically use any filesystem you want. The namei file server does not do any fancy stuff behind the scenes but only accesses normal files (their names are a bit strange though).
608
609 The opposite to namei fileserver is inode based nameserver. According to openafs-devel email list, it gave on some Solaris box 10% speedup over the namei based server. The namei based fileserver cannot run on every filesystem, as it stores some internal afs-specific data into the filesystem. Typically, /sbin/fsck distributed withthe operating system zaps these data. Inode based fileserver directly operates on the inodes of the underlying file system which therefore has to fully support the inode abstraction scheme. The the Administrators Guide for more details (they differ from system to system).
610
611 On the client side where you run /usr/afs/etc/afsd as a kernel process, you always have to use a file system supporting the inode abstraction for the cache (usually /usr/vice/cache) since the cache manager references files by their inode. Fortunately, it does not do such tricky stuff as the inode based fileserver.
612
613 The following file systems have been reported _not_ to work for the AFS client cache:
614
615 - reiserfs
616 - vxfs (HP-UX)
617 - advfs (Tru64), it works but gives cachecurruption
618 - efs (SGI) - IBM AFS does support efs, but openafs doesn't have a license for that.
619
620 - Patch committed to cvs around 6/2003 will now enforce this in some cases and generate a warning to the user if the filesystem type is wrong.
621
622 The following file systems have been reported to work for the AFS client cache:
623
624 - ext2
625 - ext3
626 - hfs (HP-UX)
627 - xfs (at least on IRIX 6.5)
628 - ufs (Solaris, [[Tru64Unix]])
629
630 ### <a name="3.30 Compiling _OpenAFS"></a> 3.30 Compiling [[OpenAFS]]
631
632 The kernel parts on Solaris have to be compiled with Sun cc, same for other platforms, i.e. you need same compiler used to compile kernel to compile your afs modules. [[Tru64Unix]] doesn't support modules, so you have to edit kernel config files and link statically into kernel. Kernel module insertion works fine on Linux, Solaris, Irix ...
633
634     ./configure --enable-transarc-paths=/usr/etc --with-afs-sysname=i386_linux24
635     make dest
636     cd dest/i386_linux24
637
638 ... and continue the install process described in IBM AFS documentation. If you do "make install", you will end up with some stuff installed into /usr/local but something not, regardless the --enable-transarc-paths option ... "make install" it's messy.
639
640 ### <a name="3.31 Upgrading _OpenAFS"></a> 3.31 Upgrading [[OpenAFS]]
641
642 Upgrade of AFS on Linux
643
644     /etc/rc.d/init.d/afs stop
645     cd root.client/usr/vice/etc
646     tar cvf - . | (cd /usr/vice/etc; tar xfp -)
647     cp -p afs.rc /etc/rc.d/init.d/afs
648     cp ../../../../lib/pam_afs.krb.so.1  /lib/security
649     cd ../../../../root.server/usr/afs
650     tar cvf - . | (cd /usr/afs; tar xfp -)
651     # echo "auth sufficient /lib/security/pam_afs.so try_first_pass \
652     ignore_root" >> /etc/pam.d/login
653     cd /lib/security
654     vim /etc/sysconfig/afs
655     ln -s pam_afs.krb.so.1 pam_afs.so
656     cd /etc/rc3.d
657     ln -s ../init.d/afs S99afs
658     cd ../rc0.d
659     ln -s ../init.d/afs K01afs
660     cp /usr/vice/etc/afs.conf /etc/sysconfig/afs
661     /etc/rc.d/init.d/afs start
662
663 Upgrade of AFS on Solaris 2.6
664
665     cd /etc/rc3.d/
666     mv S20afs aS20afs
667     init 6
668     cd root.server/usr/afs
669     tar cvf - ./bin | (cd /usr/afs; tar xfp -)
670     cd ../../..
671     cp root.client/usr/vice/etc/modload/libafs.nonfs.o /kernel/fs/afs
672     cp root.server/etc/vfsck /usr/lib/fs/afs/fsck
673     cd root.client/usr/vice
674     tar cvf - ./etc | (cd /usr/vice; tar xf -)
675     cd ../../..
676     cp lib/pam_afs.krb.so.1 /usr/lib/security
677     cp lib/pam_afs.so.1 /usr/lib/security
678     cd /etc/rc3.d
679     mv aS20afs S20afs
680     init 6
681
682 Upgrade of AFS on Irix 6.5
683
684     /etc/chkconfig -f afsserver off
685     /etc/chkconfig -f afsclient off
686     /etc/chkconfig -f afsml off
687     /etc/chkconfig -f afsxnfs off
688     /etc/reboot
689     cd root.server/usr/afs
690     tar cvf - ./bin | (cd /usr/afs; tar xfp -)
691     cd ../../..
692     cp root.client/usr/vice/etc/sgiload/libafs.IP22.nonfs.o /usr/vice/etc/sgiload
693     echo "AFS will be compiled statically into kernel"
694     echo "otherwise skip following lines and use chkconfig afsml on"
695     cp root.client/bin/afs.sm  /var/sysgen/system
696     cp root.client/bin/afs /var/sysgen/master.d
697     echo "The next file comes from openafs-*/src/libafs/STATIC.*"
698     cp root.client/bin/libafs.IP22.nonfs.a /var/sysgen/boot/afs.a
699     cp /unix /unix_orig
700     /etc/autoconfig
701     echo "end of static kernel modifications"
702     cd root.client/usr/vice/etc
703     echo "Delete any of the modload/ files which don't fit your platform if you need space"
704     echo "These files originate from openafs-*/src/libafs/MODLOAD.*"
705     tar cvf - . | (cd /usr/vice/etc; tar xf -)
706     /etc/chkconfig -f afsserver on
707     /etc/chkconfig -f afsclient on
708     # /etc/chkconfig -f afsml on - afs is compiled statically into kernel, so leave afsml off
709     /etc/chkconfig -f afsml off
710     /etc/chkconfig -f afsxnfs off
711     /etc/reboot
712
713 Upgrade of AFS on [[Tru64Unix]]
714
715     cd root.server/usr/afs/
716     tar cvf - ./bin | (cd /usr/afs; tar xfp -)
717     cd ../../../root.client/bin
718     cp ./libafs.nonfs.o /usr/sys/BINARY/afs.mod
719     ls -la /usr/sys/BINARY/afs.mod
720     doconfig -c FOO
721     cd ../../root.client/usr/vice
722     cp etc/afsd /usr/vice/etc/afsd
723     cp etc/C/afszcm.cat /usr/vice/etc/C/afszcm.cat
724
725 ### <a name="3.32 Debugging _OpenAFS"></a> 3.32 Debugging [[OpenAFS]]
726
727 In case of troubles when you need only fileserver process to run (to be able to debug), run the lwp fileserver instead of the pthreads fileserver (src/viced/fileserver instead of src/tviced/fileserver if you have a buildtree handy):
728
729 cp src/viced/fileserver /usr/afs/bin (or wherever)
730
731     bos restart calomys fs -local
732
733 ... then attach with gdb
734
735 To debug if client running afsd kernel process talks to the servers from [[CellServDB]], do:
736
737     tcpdump -vv -s 1500 port 7001
738
739 Other ports are:
740
741     fileserver      7000/udp                        # fileport (FILESERVICE)
742     afscb           7001/udp                        # kernel extensions
743     afsprot         7002/udp                        # ptserver (PROTSERVICE)
744     afsvldb         7003/udp                        # vlserver (VLDBSERVICE)
745     afskauth        7004/udp                        # kaserver (KAUTHSERVICE)
746     afsvol          7005/udp                        # volserver (VOLUMESERVICE)
747     afserror        7006/udp                        # ERRORSERVICE
748     afsnanny        7007/udp                        # bosserver (NANNYSERVICE)
749     afsupdate       7008/udp                        # upserver (UPDATESERVICE)
750     afsrmtsys       7009/udp                        # RMTSYSSERVICE
751
752 When tcpdump doesn't help, try:
753
754     fstrace setset cm -active; make your error happen; fstrace dump cm
755
756 ### <a name="3.33 Tuning client cache for hug"></a> 3.33 Tuning client cache for huge data
757
758 Use on afsd command line -chunk 17 or greater. Be carefull, with certain cache sizes afsd crashes on startup (Linux, [[Tru64Unix]] at least). It is possibly when dcache is too small. Go for:
759
760     /usr/vice/etc/afsd -nosettime -stat 12384 -chunk 19
761
762     > So I ran the full suite of iozone tests (13), but at a single file
763     > size (128M) and one record size (64K).  I set the AFS cache size to > 80000K for both memcache and diskcache.
764
765     Note that memcache size and diskcache size are different things.
766     In the case of memcache, a fixed number of chunks are allocated
767     in memory, such that numChunks * chunkSize = memCacheSize.  In
768     the case of disk cache, there are a lot more chunks, because the
769     disk cache assumes not every chunk will be filled (the underlying
770     filesystem handles disk block allocation for us).  Thus, when you
771     have small file segments, they use up an entire chunk worth of
772     cache in the memcache case, but only their size worth of cache
773     in the diskcache cache.
774
775     -- kolya
776
777 ### <a name="3.34 Settting up PAM with AFS"></a> 3.34 Settting up PAM with AFS
778
779 Solaris
780
781     auth        sufficient    /lib/security/pam_afs.so debug try_first_pass ignore_root debug
782     auth        required      /lib/security/pam_env.so
783     auth        sufficient    /lib/security/pam_unix.so likeauth nullok
784     auth        required      /lib/security/pam_deny.so
785
786     account     required      /lib/security/pam_unix.so
787
788     password    required      /lib/security/pam_cracklib.so retry=3 type=
789     password    sufficient    /lib/security/pam_unix.so nullok use_authtok md5 shadow
790     password    required      /lib/security/pam_deny.so
791
792     session     sufficient    /lib/security/pam_afs.so set_token
793     session     required      /lib/security/pam_limits.so
794     session     required      /lib/security/pam_unix.so
795
796     # reafslog is to unlock dtlogin's screensaver
797     other  auth sufficient /usr/athena/lib/pam_krb4.so reafslog
798
799 ### <a name="3.35 Setting up AFS key in KDC a"></a> 3.35 Setting up AFS key in KDC and [[KeyFile]]
800
801 The easiest method is not much recommended, as the password is possibly very weak:
802
803     dattan# bos addkey server -kvno <n+1>
804     <pw>
805     <pw-again>
806
807     dattan# kstring2key -c <cellname>
808     <pw>
809
810     dattan# kadmin ckey afs
811     <cut-n-paste the ascii output from above>
812
813 Beware, there is currently a byte order bug in the kadmin tool as of May 2001 in KTH-KRB. If you run kadmin on a little indian machine (PC, Alpha, ...) you must swap the bytes manually. Here is a small example:
814
815     bg$ kstring2key -c sics.se
816     password:
817     ascii = \361\334\211\221\221\206\325\334
818     hex   = f1dc89919186d5dc
819     bg$ kadmin
820     kadmin: ckey afs
821     bg.admin@SICS.SE's Password:
822     New DES key for afs: \221\211\334\361\334\325\206\221
823
824 Please note how the bytes are swapped in groups of four.
825
826 This bug is fixed in an upcoming release.
827
828 Better approach is to create random key in KDC using "ksrvutil get" (rather then "ksrvutil add" which asks you for the new password), export it into /etc/srvtab ("ksrvutil ext") and from there copy it into /usr/afs/etc/KeyFile using asetkey utility from /afs/transarc.com/public/afs-contrib. After some years, you may wish to regenerate the random afs key using "ksrvutil change" in KDC and exporting it again.
829
830 There are two nice pages abou this:
831
832 <http://www.cs.cmu.edu/afs/andrew.cmu.edu/usr/shadow/www/afs/afs-with-kerberos.html> <http://www.contrib.andrew.cmu.edu/~shadow/afs/afs-with-kerberos.html>
833
834 As someone noted, you might need some ext\_srvtab utility to extract the key from /etc/srvtab, but I don't remeber that I needed it. Then he also suggets to use asetkey utility.
835
836 Create afs.natur\\.cuni\\.cz@NATUR.CUNI.CZ principal entry in kerberos:
837
838       principal name: afs
839       principal instance: natur.cuni.cz
840       principal realm: NATUR.CUNI.CZ
841
842 Import this key from Kerberos (/etc/srvtab) into AFS /usr/afs/etc/KeyFile using asetkey utility, which is I think from /afs/transarc.com/public/afs-contrib
843
844 ./asetkey add 0 /etc/srvtab <afs.natur.cuni.cz@NATUR.CUNI.CZ>
845
846 This [[KeyFile]] with the AFS-key you can just always re-copy to new AFS **server** machines. Be sure that the key version number KVNO is always same in this [[KeyFile]] and in Kerberos database. On all these machines you of course need afs.hostname.REALM key loaded into their /etc/srvtab (create them with 'ksrvutil get'). It seems klog(1) needs afs@REALM, so copy the principal afs.cell.name@REALM to it.
847
848 You can test if you have same keys in kerberos and AFS like this:
849
850     kauth username
851     tokens
852
853 If you have some tokens now, then it works and you can now shutdown kaserver. Users, which you have created in AFS under kaserver are in /usr/afs/db/kaserver.\*, but you can just forget them. Create these users again in Kerberos IV.
854
855 AFS users are then looked up in:
856
857 kerberos database (/var/kerberos/principal.db)
858
859 /usr/afs/etc/UserList (permission to manipulate 'bos')
860
861 system:administrators (permissions for vos, pts, fs, i.e. 'pts adduser' etc)
862
863     ---------------------------------------------------------------------------------
864     Another approach, untested:
865
866     http://www.natur.cuni.cz/~majordomo/krb4/krb4.9703/msg00002.html
867
868     Date: Tue, 9 May 2000 10:57:23 +0200 (MET DST)
869     From: Johan Hedin <johanh  at  fusion.kth.se>
870     To: Erland Fristedt <Erland.Fristedt@wcs.eraj.ericsson.se>
871     Cc: krb4@sics.se
872     Subject: Re: AFS+KTH-KRB problem
873
874     This is a printout how we got it to work. Hope this helps.
875
876     /Johan Hedin
877
878     callisto#/usr/athena/sbin/ksrvutil -p johanh.admin -f srvtab get
879     Name [rcmd]: afs
880     Instance [callisto]: fusion.kth.se
881     Realm [FUSION.KTH.SE]:
882     Is this correct? (y,n) [y]
883     Add more keys? (y,n) [n]
884     Password for johanh.admin@FUSION.KTH.SE:
885     Warning: Are you sure `fusion.kth.se' should not be `fusion'?
886     Added afs.fusion.kth.se@FUSION.KTH.SE
887     Old keyfile in srvtab.old.
888     callisto#/usr/athena/sbin/ksrvutil -p johanh.admin -f srvtab list
889     Version    Principal
890        4     afs.fusion.kth.se@FUSION.KTH.SE
891     callisto#/tmp/asetkey add 4 srvtab afs.fusion.kth.se@FUSION.KTH.SE
892     callisto#cd ..
893     callisto#bin/bos status callisto
894     Instance buserver, currently running normally.
895     Instance ptserver, currently running normally.
896     Instance vlserver, currently running normally.
897     Instance fs, currently running normally.
898         Auxiliary status is: file server running.
899     callisto#bin/fs la /afs
900     Access list for /afs is
901     Normal rights:
902
903       system:administrators rlidwka
904
905     --------------------------------------------------------------------------------
906     > Tokens held by the Cache Manager:
907     >
908     > User's (AFS ID 6020) tokens for afs@sunrise.ericsson.se [Expires May  5
909     > 04:05]
910     >    --End of list--
911
912     You got your tickets alright, but then
913
914     > > touch /afs/.sunrise.ericsson.se/tabort
915     > afs: Tokens for user of AFS id 6020 for cell sunrise.ericsson.se are
916     > discarded (rxkad error=19270407)
917
918     grep 19270407 /usr/afsws/include/rx/*
919     /usr/afsws/include/rx/rxkad.h:#define RXKADBADTICKET (19270407L)
920
921     so I would guess that the key version number and/or the key on your
922     AFS servers does not match the key of the afs principal.
923
924     Use klist -v to figure out about key version numbers and then use
925
926     $ kstring2key -c sunrise.ericsson.se
927     password:
928     ascii = \242\345\345\260\323p\263\233
929     hex   = a2e5e5b0d370b39b
930
931     or some other means to ensure that you use the same keys.
932
933 ### <a name="3.36 Obtaining and getting asetk"></a> 3.36 Obtaining and getting asetkey compiled
934
935 Better approach is to create random key in KDC, export it into /etc/srvtab and from there move in /usr/afs/etc/KeyFile using asetkey utility from /afs/transarc.com/public/afs-contrib
936
937     |  I can not get asetkey to compile.
938     |
939     |  asetkey.c: In function `main':
940     |  asetkey.c:25: `AFSCONF_SERVERNAME' undeclared (first use in this function)
941     |  asetkey.c:25: (Each undeclared identifier is reported only once
942     |  asetkey.c:25: for each function it appears in.)
943     +--->8
944
945 AFS 3.5 got rid of a few commonly-used AFS defines; I suspect they are now API calls of some kind, akin to the POSIX move from hardcoded constants to use of \{,f\}pathconf() and sysconf(). I have no idea what those calls are, though.
946
947 In the meantime, the following two defines are useful in building stuff on AFS 3.5:
948
949     #define AFSCONF_CLIENTNAME      "/usr/vice/etc"
950     #define AFSCONF_SERVERNAME      "/usr/afs/etc"
951
952 ### <a name="3.37 afs_krb_get_lrealm() using"></a><a name="3.37 afs_krb_get_lrealm() using "></a> 3.37 afs\_krb\_get\_lrealm() using /usr/afs/etc/krb.conf
953
954 In this file you can set also another REALM to be used by you afs server processes, if the REALM should differ from the system-wide REALM (
955
956     /etc/krb.conf
957
958 ).
959
960 Don't forget it's related to these entries in Kerberos KDC:
961
962     afs.cell.name@REALM
963     krbtgt CELL.NAME@REALM
964
965 If you use heimdal (or MIT krb5), do:
966
967 echo "REALM" &gt; /usr/afs/etc/krb.conf
968
969 ### <a name="3.38 Moving from kaserver to Hei"></a> 3.38 Moving from kaserver to Heimdal KDC
970
971     > While converting all our administration tools, we have discovered that
972     > the time a principal changed his/her/its password is _not_ carried over
973     > from the kaserver DB.
974
975 First of all, some Heimdal's configure flags:
976
977     --enable-kaserver
978
979 requires krb4 libs, so for that you'll need a working krb4 are you still using a kaserver/kaserver emulation ?
980
981     --enable-kaserver-db
982
983 is just for dumping a kaserver krb4 database. If you are no longer running a kaserver, you don't need it.
984
985 Migration itself:
986
987 <https://lists.openafs.org/pipermail/openafs-info/2002-May/004326.html>
988
989 This works while migrating from kaserver:
990
991     /usr/heimdal/libexec/hprop --source=kaserver --cell=xxx
992     --kaspecials --stdout | /usr/heimdal/libexec/hpropd --no-inetd --stdin
993
994 This somewhat doesn't:
995
996     /usr/heimdal/libexec/hprop --source=kaserver --cell=xxx
997     --encrypt --master-key=<path to key> --kaspecials --stdout |
998     /usr/heimdal/libexec/hpropd --stdin
999
1000 ### <a name="3.39 Moving from KTH-KRB4 to Hei"></a> 3.39 Moving from KTH-KRB4 to Heimdal KDC
1001
1002     /usr/heimdal/libexec/hprop -n -k /etc/krb5.keytab --source=krb4-dump -d /var/kerberos/dump.txt --master-key=/.k -D | /usr/heimdal/libexec/hpropd -n
1003
1004     or
1005
1006     1. dump of the krb4 database with kdb_util
1007     2. dump of the "default" heimdal database with kadmin -l
1008     3. /usr/heimdal/libexec/hprop -n -k /etc/krb5.keytab --source=krb4-dump -d /usr/heimdal/libexec/hprop -n -k /etc/krb5.keytab --source=krb4-dump -d
1009        where /etc/krb5.keytab contains hprop/`hostname` keys
1010     4. merge of the converted database with file from (2) via kadmin
1011
1012     The special thing for me is the use of "-D" in the (3) which seems to
1013     cause conversion des-cbc-sha1 keys of old krb4 database entries to
1014     des-cbc-md5.
1015
1016 ### <a name="3.40 What are those bos(1) -type"></a> 3.40 What are those bos(1) -type values simple and cron?
1017
1018 Typically, admins do this once they configure new afs server:
1019
1020     bos create foo ptserver simple /usr/afs/bin/ptserver -cell bar.baz
1021     bos create foo vlserver simple /usr/afs/bin/vlserver -cell bar.baz
1022     bos create foo fs fs /usr/afs/bin/fileserver /usr/afs/bin/volserver /usr/afs/bin/salvager -cell bar.baz
1023
1024 Type "simple" has one process. type "cron" gets forked at the appropriate time.
1025
1026 ### <a name="3.41 KDC listens on port 88 inst"></a> 3.41 KDC listens on port 88 instead of 750
1027
1028     "Kramer, Matthew" <mattkr@bu.edu> writes:
1029
1030     > Hello,
1031     >       Our Kerberos 4 environment listens on only port 750 and doesn't
1032     > listen on port 88.  For Win2K/XP machines this causes a problem in
1033     > C:\openafs-1.2.8\src\kauth\user_nt.c line 144 when the Kerberos port is
1034     > queried from the %systemroot%\system32\drivers\etc\services file.  Win2K
1035     > and XP both return 88 which is correct for Kerberos 5 but in our case
1036     > not for Kerberos 4.  Why doesn't it instead query for kerberos-iv which
1037     > would return the correct value of 750?
1038     >
1039     > Y:\src\kauth>diff user_nt.c.orig user_nt.c
1040     > 144c144
1041     > <       sp = getservbyname("kerberos", "udp");
1042     > ---
1043     > >       sp = getservbyname("kerberos-iv", "udp");
1044     >
1045     A quick work around could be to use Loves requestforwarder found at
1046
1047     ftp://ftp.stacken.kth.se/pub/projects/krb-forward/krb-forward-0.1.tar.gz
1048
1049     /JockeF
1050
1051 ### <a name="3.42 afsd gives me &quot;Error -1 in"></a><a name="3.42 afsd gives me &quot;Error -1 in "></a> 3.42 afsd gives me "Error -1 in basic initialization." on startup
1052
1053 When starting afsd, I get the following:
1054
1055     # /usr/vice/etc/afsd -nosettime -debug
1056     afsd: My home cell is 'foo.bar.baz'
1057     ParseCacheInfoFile: Opening cache info file '/usr/vice/etc/cacheinfo'...
1058     ParseCacheInfoFile: Cache info file successfully parsed:
1059            cacheMountDir: '/afs'
1060            cacheBaseDir: '/usr/vice/cache'
1061            cacheBlocks: 50000
1062     afsd: 5000 inode_for_V entries at 0x8075078, 20000 bytes
1063     SScall(137, 28, 17)=-1 afsd: Forking rx listener daemon.
1064     afsd: Forking rx callback listener.
1065     afsd: Forking rxevent daemon.
1066     SScall(137, 28, 48)=-1 SScall(137, 28, 0)=-1 SScall(137, 28, 36)=-1 afsd: Error -1 in basic initialization.
1067
1068 Solution: make sure you have kernel module loaded.
1069
1070 ### <a name="3.43 Although I get krb tickets,"></a> 3.43 Although I get krb tickets, afslog doesn't give me tokens, I see UDP packets to port 4444
1071
1072 Using tcpdump I see the following traffic. What runs on the port 4444?
1073
1074     15:16:54.815194 IP foo.bar.baz.32772 > foo.bar.baz.4444: UDP, length: 269
1075     15:16:54.815199 IP foo.bar.baz > foo.bar.baz: icmp 305: foo.bar.baz udp port 4444 unreachable
1076
1077 This is the 5-&gt;4 ticket conversion service on UDP port 4444. Assuming your afs servers know how to deal with krb5 tickets (since openafs-1.2.10? and 1.3.6x?) include the following in /etc/krb5.conf:
1078
1079     [appdefaults]
1080             libkafs = {
1081                     afs-use-524 = local
1082             }
1083
1084 ### <a name="3.44 I get error message trhough"></a> 3.44 I get error message trhough syslogd: "afs: Tokens for user of AFS id 0 for cell foo.bar.baz are discarded (rxkad error=19270407)"
1085
1086 Answer:
1087
1088     grep 19270407 /usr/afsws/include/rx/*
1089     /usr/afsws/include/rx/rxkad.h:#define RXKADBADTICKET (19270407L)
1090
1091 ### <a name="3.45 I get tickets and tokens, b"></a> 3.45 I get tickets and tokens, but still get Permission denied.
1092
1093 Answer: /usr/afs/etc/UserList accepts only krb4 syntax. Use `joe.admin` instead of `joe/admin`. See `https://lists.openafs.org/pipermail/openafs-devel/2002-December/008673.html` and the rest of the thread.
1094
1095 ### <a name="3.46 Recovering broken afs cache"></a> 3.46 Recovering broken afs cache on clients
1096
1097     >> Does anyone have a trick to force AFS to refresh its cache (for a
1098     >> particular directory or even for all files?) The only way I know
1099     >> how to accomplish this is to reboot, stop in single user mode,
1100     >> rm -rf the cache files and let AFS rebuild everything.
1101     >
1102     > fs flush and fs flushv have cured corruption problems in the past
1103     > on some of our clients.
1104
1105     Thanks for the tip - I was not aware of the flush* subcommands.
1106     Here's a little of what I saw today:
1107
1108     ls -la
1109     /bin/ls: asso.S14Q00246.all.log: Bad address
1110     /bin/ls: asso.S14Q00246.all.lst: Bad address
1111     /bin/ls: chr14markers.txt: Bad address
1112     /bin/ls: geno.summary.txt: Bad address
1113     /bin/ls: global.ind.S14Q00246.all.txt: No such device
1114     /bin/ls: global.S14Q00246.all.txt: No such device
1115     total 103
1116     [ other ls results as usual ]
1117
1118     Flushing a particular file had no effect (the same error as shown above appears). Flushvolume took a long time, but when it eventually completed, the ls -la behaved exactly as one would expect.