c2172221c3ee5008eb7192e6ba920547124bdd13
[openafs.git] / src / vol / vol-salvage.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  *
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  */
9
10 /*
11  *      System:         VICE-TWO
12  *      Module:         vol-salvage.c
13  *      Institution:    The Information Technology Center, Carnegie-Mellon University
14  */
15
16 /*  1.2 features:
17         Correct handling of bad "." and ".." entries.
18         Message if volume has "destroyMe" flag set--but doesn't delete yet.
19         Link count bug fixed--bug was that vnodeEssence link count was unsigned
20         14 bits.  Needs to be signed.
21
22     1.3 features:
23         Change to DirHandle stuff to make sure that cache entries are reused at the
24         right time (this parallels the file server change, but is not identical).
25
26         Added calls to directory salvager routines; doesn't salvage dir unless debug=1.
27
28     1.4 features:
29         Fixed bug which was causing inode link counts to go bad (thus leaking
30         disk blocks).
31 Vnodes with 0 inode pointers in RW volumes are now deleted.
32         An inode with a matching inode number to the vnode is preferred to an
33         inode with a higer data version.
34         Bug is probably fixed that was causing data version to remain wrong,
35         despite assurances from the salvager to the contrary.
36
37     1.5 features:
38         Added limited salvaging:  unless ForceSalvage is on, then the volume will
39         not be salvaged if the dontSalvage flag is set in the Volume Header.
40         The ForceSalvage flag is turned on if an individual volume is salvaged or
41         if the file FORCESALVAGE exists in the partition header of the file system
42         being salvaged.  This isn't used for anything but could be set by vfsck.
43         A -f flag was also added to force salvage.
44
45     1.6 features:
46         It now deletes obsolete volume inodes without complaining
47
48     1.7 features:
49         Repairs rw volume headers (again).
50
51     1.8 features:
52         Correlates volume headers & inodes correctly, thus preventing occasional deletion
53         of read-only volumes...
54         No longer forces a directory salvage for volume 144 (which may be a good volume
55         at some other site!)
56         Some of the messages are cleaned up or made more explicit.  One or two added.
57         Logging cleaned up.
58         A bug was fixed which forced salvage of read-only volumes without a corresponding
59         read/write volume.
60
61     1.9 features:
62         When a volume header is recreated, the new name will be "bogus.volume#"
63
64     2.0 features:
65         Directory salvaging turned on!!!
66
67     2.1 features:
68         Prints warning messages for setuid programs.
69
70     2.2 features:
71         Logs missing inode numbers.
72
73     2.3 features:
74             Increments directory version number by 200 (rather than by 1) when it is salvaged, in order to prevent problems due to the fact that a version number can be promised to a workstation before it is written to disk.  If the server crashes, it may have an older version.  Salvaging it could bring the version number up to the same version the workstation believed it already had a call back on.
75
76     2.4 features:
77             Locks the file /vice/vol/salvage.lock before starting.  Aborts if it can't acquire the lock.
78             Time stamps on log entries.
79             Fcntl on stdout to cause all entries to be appended.
80             Problems writing to temporary files are now all detected.
81             Inode summary files are now dynamically named (so that multiple salvagers wouldn't conflict).
82             Some cleanup of error messages.
83 */
84
85
86 #include <afsconfig.h>
87 #include <afs/param.h>
88
89 #include <afs/procmgmt.h>
90 #include <roken.h>
91
92 #ifndef AFS_NT40_ENV
93 #include <sys/param.h>
94 #include <sys/file.h>
95 #ifndef ITIMER_REAL
96 #include <sys/time.h>
97 #endif /* ITIMER_REAL */
98 #endif
99 #include <stdlib.h>
100 #include <stdio.h>
101 #include <string.h>
102 #include <dirent.h>
103 #include <sys/stat.h>
104 #include <time.h>
105 #include <errno.h>
106 #ifdef AFS_NT40_ENV
107 #include <io.h>
108 #include <WINNT/afsevent.h>
109 #endif
110 #ifndef WCOREDUMP
111 #define WCOREDUMP(x)    ((x) & 0200)
112 #endif
113 #include <rx/xdr.h>
114 #include <afs/afsint.h>
115 #include <afs/afs_assert.h>
116 #if !defined(AFS_SGI_ENV) && !defined(AFS_NT40_ENV)
117 #if defined(AFS_VFSINCL_ENV)
118 #include <sys/vnode.h>
119 #ifdef  AFS_SUN5_ENV
120 #include <sys/fs/ufs_inode.h>
121 #else
122 #if defined(AFS_DARWIN_ENV) || defined(AFS_XBSD_ENV)
123 #include <ufs/ufs/dinode.h>
124 #include <ufs/ffs/fs.h>
125 #else
126 #include <ufs/inode.h>
127 #endif
128 #endif
129 #else /* AFS_VFSINCL_ENV */
130 #ifdef  AFS_OSF_ENV
131 #include <ufs/inode.h>
132 #else /* AFS_OSF_ENV */
133 #if !defined(AFS_LINUX20_ENV) && !defined(AFS_XBSD_ENV) && !defined(AFS_ARM_DARWIN_ENV)
134 #include <sys/inode.h>
135 #endif
136 #endif
137 #endif /* AFS_VFSINCL_ENV */
138 #endif /* AFS_SGI_ENV */
139 #ifdef  AFS_AIX_ENV
140 #include <sys/vfs.h>
141 #include <sys/lockf.h>
142 #else
143 #ifdef  AFS_HPUX_ENV
144 #include <unistd.h>
145 #include <checklist.h>
146 #else
147 #if defined(AFS_SGI_ENV)
148 #include <unistd.h>
149 #include <fcntl.h>
150 #include <mntent.h>
151 #else
152 #if     defined(AFS_SUN_ENV) || defined(AFS_SUN5_ENV)
153 #ifdef    AFS_SUN5_ENV
154 #include <unistd.h>
155 #include <sys/mnttab.h>
156 #include <sys/mntent.h>
157 #else
158 #include <mntent.h>
159 #endif
160 #else
161 #endif /* AFS_SGI_ENV */
162 #endif /* AFS_HPUX_ENV */
163 #endif
164 #endif
165 #include <fcntl.h>
166 #ifndef AFS_NT40_ENV
167 #include <afs/osi_inode.h>
168 #endif
169 #include <afs/cmd.h>
170 #include <afs/dir.h>
171 #include <afs/afsutil.h>
172 #include <afs/fileutil.h>
173 #include <afs/procmgmt.h>       /* signal(), kill(), wait(), etc. */
174 #ifndef AFS_NT40_ENV
175 #include <syslog.h>
176 #endif
177
178 #include "nfs.h"
179 #include "lwp.h"
180 #include "lock.h"
181 #include <afs/afssyscalls.h>
182 #include "ihandle.h"
183 #include "vnode.h"
184 #include "volume.h"
185 #include "partition.h"
186 #include "daemon_com.h"
187 #include "fssync.h"
188 #include "volume_inline.h"
189 #include "salvsync.h"
190 #include "viceinode.h"
191 #include "salvage.h"
192 #include "volinodes.h"          /* header magic number, etc. stuff */
193 #include "vol-salvage.h"
194 #include "common.h"
195 #include "vol_internal.h"
196 #include <afs/acl.h>
197 #include <afs/prs_fs.h>
198
199 #ifdef FSSYNC_BUILD_CLIENT
200 #include "vg_cache.h"
201 #endif
202
203 #ifdef AFS_NT40_ENV
204 #include <pthread.h>
205 #endif
206
207 /*@+fcnmacros +macrofcndecl@*/
208 #ifdef O_LARGEFILE
209 #ifdef S_SPLINT_S
210 extern off64_t afs_lseek(int FD, off64_t O, int F);
211 #endif /*S_SPLINT_S */
212 #define afs_lseek(FD, O, F)     lseek64(FD, (off64_t) (O), F)
213 #define afs_stat        stat64
214 #define afs_fstat       fstat64
215 #define afs_open        open64
216 #define afs_fopen       fopen64
217 #else /* !O_LARGEFILE */
218 #ifdef S_SPLINT_S
219 extern off_t afs_lseek(int FD, off_t O, int F);
220 #endif /*S_SPLINT_S */
221 #define afs_lseek(FD, O, F)     lseek(FD, (off_t) (O), F)
222 #define afs_stat        stat
223 #define afs_fstat       fstat
224 #define afs_open        open
225 #define afs_fopen       fopen
226 #endif /* !O_LARGEFILE */
227 /*@=fcnmacros =macrofcndecl@*/
228
229 #ifdef  AFS_OSF_ENV
230 extern void *calloc();
231 #endif
232 static char *TimeStamp(time_t clock, int precision);
233
234
235 int debug;                      /* -d flag */
236 extern int Testing;             /* -n flag */
237 int ListInodeOption;            /* -i flag */
238 int ShowRootFiles;              /* -r flag */
239 int RebuildDirs;                /* -sal flag */
240 int Parallel = 4;               /* -para X flag */
241 int PartsPerDisk = 8;           /* Salvage up to 8 partitions on same disk sequentially */
242 int forceR = 0;                 /* -b flag */
243 int ShowLog = 0;                /* -showlog flag */
244 int ShowSuid = 0;               /* -showsuid flag */
245 int ShowMounts = 0;             /* -showmounts flag */
246 int orphans = ORPH_IGNORE;      /* -orphans option */
247 int Showmode = 0;
248
249
250 #ifndef AFS_NT40_ENV
251 int useSyslog = 0;              /* -syslog flag */
252 int useSyslogFacility = LOG_DAEMON;     /* -syslogfacility option */
253 #endif
254
255 #ifdef AFS_NT40_ENV
256 int canfork = 0;
257 #else
258 int canfork = 1;
259 #endif
260
261 #define MAXPARALLEL     32
262
263 int OKToZap;                    /* -o flag */
264 int ForceSalvage;               /* If salvage should occur despite the DONT_SALVAGE flag
265                                  * in the volume header */
266
267 FILE *logFile = 0;      /* one of {/usr/afs/logs,/vice/file}/SalvageLog */
268
269 #define ROOTINODE       2       /* Root inode of a 4.2 Unix file system
270                                  * partition */
271 /**
272  * information that is 'global' to a particular salvage job.
273  */
274 struct SalvInfo {
275     Device fileSysDevice;    /**< The device number of the current partition
276                               *   being salvaged */
277     char fileSysPath[8];     /**< The path of the mounted partition currently
278                               *   being salvaged, i.e. the directory containing
279                               *   the volume headers */
280     char *fileSysPathName;   /**< NT needs this to make name pretty log. */
281     IHandle_t *VGLinkH;      /**< Link handle for current volume group. */
282     int VGLinkH_cnt;         /**< # of references to lnk handle. */
283     struct DiskPartition64 *fileSysPartition; /**< Partition being salvaged */
284
285 #ifndef AFS_NT40_ENV
286     char *fileSysDeviceName; /**< The block device where the file system being
287                               *   salvaged was mounted */
288     char *filesysfulldev;
289 #endif
290     int VolumeChanged;       /**< Set by any routine which would change the
291                               *   volume in a way which would require callbacks
292                               *   to be broken if the volume was put back on
293                               *   on line by an active file server */
294
295     VolumeDiskData VolInfo;  /**< A copy of the last good or salvaged volume
296                               *   header dealt with */
297
298     int nVolumesInInodeFile; /**< Number of read-write volumes summarized */
299     int inodeFd;             /**< File descriptor for inode file */
300
301     struct VolumeSummary *volumeSummaryp; /**< Holds all the volumes in a part */
302     int nVolumes;            /**< Number of volumes (read-write and read-only)
303                               *   in volume summary */
304     struct InodeSummary *inodeSummary; /**< contains info on all the relevant
305                                         *   inodes */
306
307     struct VnodeInfo vnodeInfo[nVNODECLASSES]; /**< contains info on all of the
308                                                 *   vnodes in the volume that
309                                                 *   we are currently looking
310                                                 *   at */
311     int useFSYNC; /**< 0 if the fileserver is unavailable; 1 if we should try
312                    *   to contact the fileserver over FSYNC */
313 };
314
315 char *tmpdir = NULL;
316
317
318
319 /* Forward declarations */
320 static int IsVnodeOrphaned(struct SalvInfo *salvinfo, VnodeId vnode);
321 static int AskVolumeSummary(struct SalvInfo *salvinfo,
322                             VolumeId singleVolumeNumber);
323
324 #ifdef AFS_DEMAND_ATTACH_FS
325 static int LockVolume(struct SalvInfo *salvinfo, VolumeId volumeId);
326 #endif /* AFS_DEMAND_ATTACH_FS */
327
328 /* Uniquifier stored in the Inode */
329 static Unique
330 IUnique(Unique u)
331 {
332 #ifdef  AFS_3DISPARES
333     return (u & 0x3fffff);
334 #else
335 #if defined(AFS_SGI_EXMAG)
336     return (u & SGI_UNIQMASK);
337 #else
338     return (u);
339 #endif /* AFS_SGI_EXMAG */
340 #endif
341 }
342
343 static int
344 BadError(int aerror)
345 {
346     if (aerror == EPERM || aerror == ENXIO || aerror == ENOENT)
347         return 1;
348     return 0;                   /* otherwise may be transient, e.g. EMFILE */
349 }
350
351 #define MAX_ARGS 128
352 #ifdef AFS_NT40_ENV
353 char *save_args[MAX_ARGS];
354 int n_save_args = 0;
355 extern pthread_t main_thread;
356 childJob_t myjob = { SALVAGER_MAGIC, NOT_CHILD, "" };
357 #endif
358
359 /**
360  * Get the salvage lock if not already held. Hold until process exits.
361  *
362  * @param[in] locktype READ_LOCK or WRITE_LOCK
363  */
364 static void
365 _ObtainSalvageLock(int locktype)
366 {
367     struct VLockFile salvageLock;
368     int offset = 0;
369     int nonblock = 1;
370     int code;
371
372     VLockFileInit(&salvageLock, AFSDIR_SERVER_SLVGLOCK_FILEPATH);
373
374     code = VLockFileLock(&salvageLock, offset, locktype, nonblock);
375     if (code == EBUSY) {
376         fprintf(stderr,
377                 "salvager:  There appears to be another salvager running!  "
378                 "Aborted.\n");
379         Exit(1);
380     } else if (code) {
381         fprintf(stderr,
382                 "salvager:  Error %d trying to acquire salvage lock!  "
383                 "Aborted.\n", code);
384         Exit(1);
385     }
386 }
387 void
388 ObtainSalvageLock(void)
389 {
390     _ObtainSalvageLock(WRITE_LOCK);
391 }
392 void
393 ObtainSharedSalvageLock(void)
394 {
395     _ObtainSalvageLock(READ_LOCK);
396 }
397
398
399 #ifdef AFS_SGI_XFS_IOPS_ENV
400 /* Check if the given partition is mounted. For XFS, the root inode is not a
401  * constant. So we check the hard way.
402  */
403 int
404 IsPartitionMounted(char *part)
405 {
406     FILE *mntfp;
407     struct mntent *mntent;
408
409     osi_Assert(mntfp = setmntent(MOUNTED, "r"));
410     while (mntent = getmntent(mntfp)) {
411         if (!strcmp(part, mntent->mnt_dir))
412             break;
413     }
414     endmntent(mntfp);
415
416     return mntent ? 1 : 1;
417 }
418 #endif
419 /* Check if the given inode is the root of the filesystem. */
420 #ifndef AFS_SGI_XFS_IOPS_ENV
421 int
422 IsRootInode(struct afs_stat *status)
423 {
424     /*
425      * The root inode is not a fixed value in XFS partitions. So we need to
426      * see if the partition is in the list of mounted partitions. This only
427      * affects the SalvageFileSys path, so we check there.
428      */
429     return (status->st_ino == ROOTINODE);
430 }
431 #endif
432
433 #ifdef AFS_AIX42_ENV
434 #ifndef AFS_NAMEI_ENV
435 /* We don't want to salvage big files filesystems, since we can't put volumes on
436  * them.
437  */
438 int
439 CheckIfBigFilesFS(char *mountPoint, char *devName)
440 {
441     struct superblock fs;
442     char name[128];
443
444     if (strncmp(devName, "/dev/", 5)) {
445         (void)sprintf(name, "/dev/%s", devName);
446     } else {
447         (void)strcpy(name, devName);
448     }
449
450     if (ReadSuper(&fs, name) < 0) {
451         Log("Unable to read superblock. Not salvaging partition %s.\n",
452             mountPoint);
453         return 1;
454     }
455     if (IsBigFilesFileSystem(&fs)) {
456         Log("Partition %s is a big files filesystem, not salvaging.\n",
457             mountPoint);
458         return 1;
459     }
460     return 0;
461 }
462 #endif
463 #endif
464
465 #ifdef AFS_NT40_ENV
466 #define HDSTR "\\Device\\Harddisk"
467 #define HDLEN  (sizeof(HDSTR)-1)        /* Length of "\Device\Harddisk" */
468 int
469 SameDisk(struct DiskPartition64 *p1, struct DiskPartition64 *p2)
470 {
471 #define RES_LEN 256
472     char res1[RES_LEN];
473     char res2[RES_LEN];
474
475     static int dowarn = 1;
476
477     if (!QueryDosDevice(p1->devName, res1, RES_LEN - 1))
478         return 1;
479     if (strncmp(res1, HDSTR, HDLEN)) {
480         if (dowarn) {
481             dowarn = 0;
482             Log("WARNING: QueryDosDevice is returning %s, not %s for %s\n",
483                 res1, HDSTR, p1->devName);
484         }
485     }
486     if (!QueryDosDevice(p2->devName, res2, RES_LEN - 1))
487         return 1;
488     if (strncmp(res2, HDSTR, HDLEN)) {
489         if (dowarn) {
490             dowarn = 0;
491             Log("WARNING: QueryDosDevice is returning %s, not %s for %s\n",
492                 res2, HDSTR, p2->devName);
493         }
494     }
495
496     return (0 == _strnicmp(res1, res2, RES_LEN - 1));
497 }
498 #else
499 #define SameDisk(P1, P2) ((P1)->device/PartsPerDisk == (P2)->device/PartsPerDisk)
500 #endif
501
502 /* This assumes that two partitions with the same device number divided by
503  * PartsPerDisk are on the same disk.
504  */
505 void
506 SalvageFileSysParallel(struct DiskPartition64 *partP)
507 {
508     struct job {
509         struct DiskPartition64 *partP;
510         int pid;                /* Pid for this job */
511         int jobnumb;            /* Log file job number */
512         struct job *nextjob;    /* Next partition on disk to salvage */
513     };
514     static struct job *jobs[MAXPARALLEL] = { 0 };       /* Need to zero this */
515     struct job *thisjob = 0;
516     static int numjobs = 0;
517     static int jobcount = 0;
518     char buf[1024];
519     int wstatus;
520     struct job *oldjob;
521     int startjob;
522     FILE *passLog;
523     char logFileName[256];
524     int i, j, pid;
525
526     if (partP) {
527         /* We have a partition to salvage. Copy it into thisjob */
528         thisjob = (struct job *)malloc(sizeof(struct job));
529         if (!thisjob) {
530             Log("Can't salvage '%s'. Not enough memory\n", partP->name);
531             return;
532         }
533         memset(thisjob, 0, sizeof(struct job));
534         thisjob->partP = partP;
535         thisjob->jobnumb = jobcount;
536         jobcount++;
537     } else if (jobcount == 0) {
538         /* We are asking to wait for all jobs (partp == 0), yet we never
539          * started any.
540          */
541         Log("No file system partitions named %s* found; not salvaged\n",
542             VICE_PARTITION_PREFIX);
543         return;
544     }
545
546     if (debug || Parallel == 1) {
547         if (thisjob) {
548             SalvageFileSys(thisjob->partP, 0);
549             free(thisjob);
550         }
551         return;
552     }
553
554     if (thisjob) {
555         /* Check to see if thisjob is for a disk that we are already
556          * salvaging. If it is, link it in as the next job to do. The
557          * jobs array has 1 entry per disk being salvages. numjobs is
558          * the total number of disks currently being salvaged. In
559          * order to keep thejobs array compact, when a disk is
560          * completed, the hightest element in the jobs array is moved
561          * down to now open slot.
562          */
563         for (j = 0; j < numjobs; j++) {
564             if (SameDisk(jobs[j]->partP, thisjob->partP)) {
565                 /* On same disk, add it to this list and return */
566                 thisjob->nextjob = jobs[j]->nextjob;
567                 jobs[j]->nextjob = thisjob;
568                 thisjob = 0;
569                 break;
570             }
571         }
572     }
573
574     /* Loop until we start thisjob or until all existing jobs are finished */
575     while (thisjob || (!partP && (numjobs > 0))) {
576         startjob = -1;          /* No new job to start */
577
578         if ((numjobs >= Parallel) || (!partP && (numjobs > 0))) {
579             /* Either the max jobs are running or we have to wait for all
580              * the jobs to finish. In either case, we wait for at least one
581              * job to finish. When it's done, clean up after it.
582              */
583             pid = wait(&wstatus);
584             osi_Assert(pid != -1);
585             for (j = 0; j < numjobs; j++) {     /* Find which job it is */
586                 if (pid == jobs[j]->pid)
587                     break;
588             }
589             osi_Assert(j < numjobs);
590             if (WCOREDUMP(wstatus)) {   /* Say if the job core dumped */
591                 Log("Salvage of %s core dumped!\n", jobs[j]->partP->name);
592             }
593
594             numjobs--;          /* job no longer running */
595             oldjob = jobs[j];   /* remember */
596             jobs[j] = jobs[j]->nextjob; /* Step to next part on same disk */
597             free(oldjob);       /* free the old job */
598
599             /* If there is another partition on the disk to salvage, then
600              * say we will start it (startjob). If not, then put thisjob there
601              * and say we will start it.
602              */
603             if (jobs[j]) {      /* Another partitions to salvage */
604                 startjob = j;   /* Will start it */
605             } else {            /* There is not another partition to salvage */
606                 if (thisjob) {
607                     jobs[j] = thisjob;  /* Add thisjob */
608                     thisjob = 0;
609                     startjob = j;       /* Will start it */
610                 } else {
611                     jobs[j] = jobs[numjobs];    /* Move last job up to this slot */
612                     startjob = -1;      /* Don't start it - already running */
613                 }
614             }
615         } else {
616             /* We don't have to wait for a job to complete */
617             if (thisjob) {
618                 jobs[numjobs] = thisjob;        /* Add this job */
619                 thisjob = 0;
620                 startjob = numjobs;     /* Will start it */
621             }
622         }
623
624         /* Start up a new salvage job on a partition in job slot "startjob" */
625         if (startjob != -1) {
626             if (!Showmode)
627                 Log("Starting salvage of file system partition %s\n",
628                     jobs[startjob]->partP->name);
629 #ifdef AFS_NT40_ENV
630             /* For NT, we not only fork, but re-exec the salvager. Pass in the
631              * commands and pass the child job number via the data path.
632              */
633             pid =
634                 nt_SalvagePartition(jobs[startjob]->partP->name,
635                                     jobs[startjob]->jobnumb);
636             jobs[startjob]->pid = pid;
637             numjobs++;
638 #else
639             pid = Fork();
640             if (pid) {
641                 jobs[startjob]->pid = pid;
642                 numjobs++;
643             } else {
644                 int fd;
645
646                 ShowLog = 0;
647                 for (fd = 0; fd < 16; fd++)
648                     close(fd);
649                 open(OS_DIRSEP, 0);
650                 dup2(0, 1);
651                 dup2(0, 2);
652 #ifndef AFS_NT40_ENV
653                 if (useSyslog) {
654                     openlog("salvager", LOG_PID, useSyslogFacility);
655                 } else
656 #endif
657                 {
658                     (void)afs_snprintf(logFileName, sizeof logFileName,
659                                        "%s.%d",
660                                        AFSDIR_SERVER_SLVGLOG_FILEPATH,
661                                        jobs[startjob]->jobnumb);
662                     logFile = afs_fopen(logFileName, "w");
663                 }
664                 if (!logFile)
665                     logFile = stdout;
666
667                 SalvageFileSys1(jobs[startjob]->partP, 0);
668                 Exit(0);
669             }
670 #endif
671         }
672     }                           /* while ( thisjob || (!partP && numjobs > 0) ) */
673
674     /* If waited for all jobs to complete, now collect log files and return */
675 #ifndef AFS_NT40_ENV
676     if (!useSyslog)             /* if syslogging - no need to collect */
677 #endif
678         if (!partP) {
679             for (i = 0; i < jobcount; i++) {
680                 (void)afs_snprintf(logFileName, sizeof logFileName, "%s.%d",
681                                    AFSDIR_SERVER_SLVGLOG_FILEPATH, i);
682                 if ((passLog = afs_fopen(logFileName, "r"))) {
683                     while (fgets(buf, sizeof(buf), passLog)) {
684                         fputs(buf, logFile);
685                     }
686                     fclose(passLog);
687                 }
688                 (void)unlink(logFileName);
689             }
690             fflush(logFile);
691         }
692     return;
693 }
694
695
696 void
697 SalvageFileSys(struct DiskPartition64 *partP, VolumeId singleVolumeNumber)
698 {
699     if (!canfork || debug || Fork() == 0) {
700         SalvageFileSys1(partP, singleVolumeNumber);
701         if (canfork && !debug) {
702             ShowLog = 0;
703             Exit(0);
704         }
705     } else
706         Wait("SalvageFileSys");
707 }
708
709 char *
710 get_DevName(char *pbuffer, char *wpath)
711 {
712     char pbuf[128], *ptr;
713     strcpy(pbuf, pbuffer);
714     ptr = (char *)strrchr(pbuf, OS_DIRSEPC);
715     if (ptr) {
716         *ptr = '\0';
717         strcpy(wpath, pbuf);
718     } else
719         return NULL;
720     ptr = (char *)strrchr(pbuffer, OS_DIRSEPC);
721     if (ptr) {
722         strcpy(pbuffer, ptr + 1);
723         return pbuffer;
724     } else
725         return NULL;
726 }
727
728 void
729 SalvageFileSys1(struct DiskPartition64 *partP, VolumeId singleVolumeNumber)
730 {
731     char *name, *tdir;
732     char inodeListPath[256];
733     FILE *inodeFile = NULL;
734     static char tmpDevName[100];
735     static char wpath[100];
736     struct VolumeSummary *vsp, *esp;
737     int i, j;
738     int code;
739     int tries = 0;
740     struct SalvInfo l_salvinfo;
741     struct SalvInfo *salvinfo = &l_salvinfo;
742
743  retry:
744     memset(salvinfo, 0, sizeof(*salvinfo));
745
746     tries++;
747     if (inodeFile) {
748         fclose(inodeFile);
749         inodeFile = NULL;
750     }
751     if (tries > VOL_MAX_CHECKOUT_RETRIES) {
752         Abort("Raced too many times with fileserver restarts while trying to "
753               "checkout/lock volumes; Aborted\n");
754     }
755 #ifdef AFS_DEMAND_ATTACH_FS
756     if (tries > 1) {
757         /* unlock all previous volume locks, since we're about to lock them
758          * again */
759         VLockFileReinit(&partP->volLockFile);
760     }
761 #endif /* AFS_DEMAND_ATTACH_FS */
762
763     salvinfo->fileSysPartition = partP;
764     salvinfo->fileSysDevice = salvinfo->fileSysPartition->device;
765     salvinfo->fileSysPathName = VPartitionPath(salvinfo->fileSysPartition);
766
767 #ifdef AFS_NT40_ENV
768     /* Opendir can fail on "C:" but not on "C:\" if C is empty! */
769     (void)sprintf(salvinfo->fileSysPath, "%s" OS_DIRSEP, salvinfo->fileSysPathName);
770     name = partP->devName;
771 #else
772     strlcpy(salvinfo->fileSysPath, salvinfo->fileSysPathName, sizeof(salvinfo->fileSysPath));
773     strcpy(tmpDevName, partP->devName);
774     name = get_DevName(tmpDevName, wpath);
775     salvinfo->fileSysDeviceName = name;
776     salvinfo->filesysfulldev = wpath;
777 #endif
778
779     if (singleVolumeNumber) {
780 #ifndef AFS_DEMAND_ATTACH_FS
781         /* only non-DAFS locks the partition when salvaging a single volume;
782          * DAFS will lock the individual volumes in the VG */
783         VLockPartition(partP->name);
784 #endif /* !AFS_DEMAND_ATTACH_FS */
785
786         ForceSalvage = 1;
787
788         /* salvageserver already setup fssync conn for us */
789         if ((programType != salvageServer) && !VConnectFS()) {
790             Abort("Couldn't connect to file server\n");
791         }
792
793         salvinfo->useFSYNC = 1;
794         AskOffline(salvinfo, singleVolumeNumber);
795 #ifdef AFS_DEMAND_ATTACH_FS
796         if (LockVolume(salvinfo, singleVolumeNumber)) {
797             goto retry;
798         }
799 #endif /* AFS_DEMAND_ATTACH_FS */
800
801     } else {
802         salvinfo->useFSYNC = 0;
803         VLockPartition(partP->name);
804         if (ForceSalvage) {
805             ForceSalvage = 1;
806         } else {
807             ForceSalvage = UseTheForceLuke(salvinfo->fileSysPath);
808         }
809         if (!Showmode)
810             Log("SALVAGING FILE SYSTEM PARTITION %s (device=%s%s)\n",
811                 partP->name, name, (Testing ? "(READONLY mode)" : ""));
812         if (ForceSalvage)
813             Log("***Forced salvage of all volumes on this partition***\n");
814     }
815
816
817     /*
818      * Remove any leftover /vicepa/salvage.inodes.* or /vicepa/salvage.temp.*
819      * files
820      */
821     {
822         DIR *dirp;
823         struct dirent *dp;
824
825         osi_Assert((dirp = opendir(salvinfo->fileSysPath)) != NULL);
826         while ((dp = readdir(dirp))) {
827             if (!strncmp(dp->d_name, "salvage.inodes.", 15)
828                 || !strncmp(dp->d_name, "salvage.temp.", 13)) {
829                 char npath[1024];
830                 Log("Removing old salvager temp files %s\n", dp->d_name);
831                 strcpy(npath, salvinfo->fileSysPath);
832                 strcat(npath, OS_DIRSEP);
833                 strcat(npath, dp->d_name);
834                 OS_UNLINK(npath);
835             }
836         }
837         closedir(dirp);
838     }
839     tdir = (tmpdir ? tmpdir : salvinfo->fileSysPath);
840 #ifdef AFS_NT40_ENV
841     (void)_putenv("TMP=");      /* If "TMP" is set, then that overrides tdir. */
842     (void)strncpy(inodeListPath, _tempnam(tdir, "salvage.inodes."), 255);
843 #else
844     snprintf(inodeListPath, 255, "%s" OS_DIRSEP "salvage.inodes.%s.%d", tdir, name,
845              getpid());
846 #endif
847
848     inodeFile = fopen(inodeListPath, "w+b");
849     if (!inodeFile) {
850         Abort("Error %d when creating inode description file %s; not salvaged\n", errno, inodeListPath);
851     }
852 #ifdef AFS_NT40_ENV
853     /* Using nt_unlink here since we're really using the delete on close
854      * semantics of unlink. In most places in the salvager, we really do
855      * mean to unlink the file at that point. Those places have been
856      * modified to actually do that so that the NT crt can be used there.
857      *
858      * jaltman - On NT delete on close cannot be applied to a file while the
859      * process has an open file handle that does not have DELETE file
860      * access and FILE_SHARE_DELETE.  fopen() calls CreateFile() without
861      * delete privileges.  As a result the nt_unlink() call will always
862      * fail.
863      */
864     code = nt_unlink(inodeListPath);
865 #else
866     code = unlink(inodeListPath);
867 #endif
868     if (code < 0) {
869         Log("Error %d when trying to unlink %s\n", errno, inodeListPath);
870     }
871
872     if (GetInodeSummary(salvinfo, inodeFile, singleVolumeNumber) < 0) {
873         fclose(inodeFile);
874         return;
875     }
876     salvinfo->inodeFd = fileno(inodeFile);
877     if (salvinfo->inodeFd == -1)
878         Abort("Temporary file %s is missing...\n", inodeListPath);
879     afs_lseek(salvinfo->inodeFd, 0L, SEEK_SET);
880     if (ListInodeOption) {
881         PrintInodeList(salvinfo);
882         return;
883     }
884     /* enumerate volumes in the partition.
885      * figure out sets of read-only + rw volumes.
886      * salvage each set, read-only volumes first, then read-write.
887      * Fix up inodes on last volume in set (whether it is read-write
888      * or read-only).
889      */
890     if (GetVolumeSummary(salvinfo, singleVolumeNumber)) {
891         goto retry;
892     }
893
894     for (i = j = 0, vsp = salvinfo->volumeSummaryp, esp = vsp + salvinfo->nVolumes;
895          i < salvinfo->nVolumesInInodeFile; i = j) {
896         VolumeId rwvid = salvinfo->inodeSummary[i].RWvolumeId;
897         for (j = i;
898              j < salvinfo->nVolumesInInodeFile && salvinfo->inodeSummary[j].RWvolumeId == rwvid;
899              j++) {
900             VolumeId vid = salvinfo->inodeSummary[j].volumeId;
901             struct VolumeSummary *tsp;
902             /* Scan volume list (from partition root directory) looking for the
903              * current rw volume number in the volume list from the inode scan.
904              * If there is one here that is not in the inode volume list,
905              * delete it now. */
906             for (; vsp < esp && (vsp->header.parent < rwvid); vsp++) {
907                 if (vsp->fileName)
908                     DeleteExtraVolumeHeaderFile(salvinfo, vsp);
909             }
910             /* Now match up the volume summary info from the root directory with the
911              * entry in the volume list obtained from scanning inodes */
912             salvinfo->inodeSummary[j].volSummary = NULL;
913             for (tsp = vsp; tsp < esp && (tsp->header.parent == rwvid); tsp++) {
914                 if (tsp->header.id == vid) {
915                     salvinfo->inodeSummary[j].volSummary = tsp;
916                     tsp->fileName = 0;
917                     break;
918                 }
919             }
920         }
921         /* Salvage the group of volumes (several read-only + 1 read/write)
922          * starting with the current read-only volume we're looking at.
923          */
924         SalvageVolumeGroup(salvinfo, &salvinfo->inodeSummary[i], j - i);
925     }
926
927     /* Delete any additional volumes that were listed in the partition but which didn't have any corresponding inodes */
928     for (; vsp < esp; vsp++) {
929         if (vsp->fileName)
930             DeleteExtraVolumeHeaderFile(salvinfo, vsp);
931     }
932
933     if (!singleVolumeNumber)    /* Remove the FORCESALVAGE file */
934         RemoveTheForce(salvinfo->fileSysPath);
935
936     if (!Testing && singleVolumeNumber) {
937 #ifdef AFS_DEMAND_ATTACH_FS
938         /* unlock vol headers so the fs can attach them when we AskOnline */
939         VLockFileReinit(&salvinfo->fileSysPartition->volLockFile);
940 #endif /* AFS_DEMAND_ATTACH_FS */
941
942         AskOnline(salvinfo, singleVolumeNumber);
943
944         /* Step through the volumeSummary list and set all volumes on-line.
945          * The volumes were taken off-line in GetVolumeSummary.
946          */
947         for (j = 0; j < salvinfo->nVolumes; j++) {
948             AskOnline(salvinfo, salvinfo->volumeSummaryp[j].header.id);
949         }
950     } else {
951         if (!Showmode)
952             Log("SALVAGING OF PARTITION %s%s COMPLETED\n",
953                 salvinfo->fileSysPartition->name, (Testing ? " (READONLY mode)" : ""));
954     }
955
956     fclose(inodeFile);          /* SalvageVolumeGroup was the last which needed it. */
957 }
958
959 void
960 DeleteExtraVolumeHeaderFile(struct SalvInfo *salvinfo, struct VolumeSummary *vsp)
961 {
962     char path[64];
963     sprintf(path, "%s" OS_DIRSEP "%s", salvinfo->fileSysPath, vsp->fileName);
964
965     if (!Showmode)
966         Log("The volume header file %s is not associated with any actual data (%sdeleted)\n", path, (Testing ? "would have been " : ""));
967     if (!Testing) {
968         afs_int32 code;
969         code = VDestroyVolumeDiskHeader(salvinfo->fileSysPartition, vsp->header.id, vsp->header.parent);
970         if (code) {
971             Log("Error %ld destroying volume disk header for volume %lu\n",
972                 afs_printable_int32_ld(code),
973                 afs_printable_uint32_lu(vsp->header.id));
974         }
975
976         /* make sure we actually delete the fileName file; ENOENT
977          * is fine, since VDestroyVolumeDiskHeader probably already
978          * unlinked it */
979         if (unlink(path) && errno != ENOENT) {
980             Log("Unable to unlink %s (errno = %d)\n", path, errno);
981         }
982     }
983     vsp->fileName = 0;
984 }
985
986 int
987 CompareInodes(const void *_p1, const void *_p2)
988 {
989     const struct ViceInodeInfo *p1 = _p1;
990     const struct ViceInodeInfo *p2 = _p2;
991     if (p1->u.vnode.vnodeNumber == INODESPECIAL
992         || p2->u.vnode.vnodeNumber == INODESPECIAL) {
993         VolumeId p1rwid, p2rwid;
994         p1rwid =
995             (p1->u.vnode.vnodeNumber ==
996              INODESPECIAL ? p1->u.special.parentId : p1->u.vnode.volumeId);
997         p2rwid =
998             (p2->u.vnode.vnodeNumber ==
999              INODESPECIAL ? p2->u.special.parentId : p2->u.vnode.volumeId);
1000         if (p1rwid < p2rwid)
1001             return -1;
1002         if (p1rwid > p2rwid)
1003             return 1;
1004         if (p1->u.vnode.vnodeNumber == INODESPECIAL
1005             && p2->u.vnode.vnodeNumber == INODESPECIAL) {
1006             if (p1->u.vnode.volumeId == p2->u.vnode.volumeId)
1007                 return (p1->u.special.type < p2->u.special.type ? -1 : 1);
1008             if (p1->u.vnode.volumeId == p1rwid)
1009                 return -1;
1010             if (p2->u.vnode.volumeId == p2rwid)
1011                 return 1;
1012             return (p1->u.vnode.volumeId < p2->u.vnode.volumeId ? -1 : 1);
1013         }
1014         if (p1->u.vnode.vnodeNumber != INODESPECIAL)
1015             return (p2->u.vnode.volumeId == p2rwid ? 1 : -1);
1016         return (p1->u.vnode.volumeId == p1rwid ? -1 : 1);
1017     }
1018     if (p1->u.vnode.volumeId < p2->u.vnode.volumeId)
1019         return -1;
1020     if (p1->u.vnode.volumeId > p2->u.vnode.volumeId)
1021         return 1;
1022     if (p1->u.vnode.vnodeNumber < p2->u.vnode.vnodeNumber)
1023         return -1;
1024     if (p1->u.vnode.vnodeNumber > p2->u.vnode.vnodeNumber)
1025         return 1;
1026     /* The following tests are reversed, so that the most desirable
1027      * of several similar inodes comes first */
1028     if (p1->u.vnode.vnodeUniquifier > p2->u.vnode.vnodeUniquifier) {
1029 #ifdef  AFS_3DISPARES
1030         if (p1->u.vnode.vnodeUniquifier > 3775414 /* 90% of 4.2M */  &&
1031             p2->u.vnode.vnodeUniquifier < 419490 /* 10% of 4.2M */ )
1032             return 1;
1033 #endif
1034 #ifdef  AFS_SGI_EXMAG
1035         if (p1->u.vnode.vnodeUniquifier > 15099494 /* 90% of 16M */  &&
1036             p2->u.vnode.vnodeUniquifier < 1677721 /* 10% of 16M */ )
1037             return 1;
1038 #endif
1039         return -1;
1040     }
1041     if (p1->u.vnode.vnodeUniquifier < p2->u.vnode.vnodeUniquifier) {
1042 #ifdef  AFS_3DISPARES
1043         if (p2->u.vnode.vnodeUniquifier > 3775414 /* 90% of 4.2M */  &&
1044             p1->u.vnode.vnodeUniquifier < 419490 /* 10% of 4.2M */ )
1045             return -1;
1046 #endif
1047 #ifdef  AFS_SGI_EXMAG
1048         if (p2->u.vnode.vnodeUniquifier > 15099494 /* 90% of 16M */  &&
1049             p1->u.vnode.vnodeUniquifier < 1677721 /* 10% of 16M */ )
1050             return 1;
1051 #endif
1052         return 1;
1053     }
1054     if (p1->u.vnode.inodeDataVersion > p2->u.vnode.inodeDataVersion) {
1055 #ifdef  AFS_3DISPARES
1056         if (p1->u.vnode.inodeDataVersion > 1887437 /* 90% of 2.1M */  &&
1057             p2->u.vnode.inodeDataVersion < 209716 /* 10% of 2.1M */ )
1058             return 1;
1059 #endif
1060 #ifdef  AFS_SGI_EXMAG
1061         if (p1->u.vnode.inodeDataVersion > 15099494 /* 90% of 16M */  &&
1062             p2->u.vnode.inodeDataVersion < 1677721 /* 10% of 16M */ )
1063             return 1;
1064 #endif
1065         return -1;
1066     }
1067     if (p1->u.vnode.inodeDataVersion < p2->u.vnode.inodeDataVersion) {
1068 #ifdef  AFS_3DISPARES
1069         if (p2->u.vnode.inodeDataVersion > 1887437 /* 90% of 2.1M */  &&
1070             p1->u.vnode.inodeDataVersion < 209716 /* 10% of 2.1M */ )
1071             return -1;
1072 #endif
1073 #ifdef  AFS_SGI_EXMAG
1074         if (p2->u.vnode.inodeDataVersion > 15099494 /* 90% of 16M */  &&
1075             p1->u.vnode.inodeDataVersion < 1677721 /* 10% of 16M */ )
1076             return 1;
1077 #endif
1078         return 1;
1079     }
1080     return 0;
1081 }
1082
1083 void
1084 CountVolumeInodes(struct ViceInodeInfo *ip, int maxInodes,
1085                   struct InodeSummary *summary)
1086 {
1087     VolumeId volume = ip->u.vnode.volumeId;
1088     VolumeId rwvolume = volume;
1089     int n, nSpecial;
1090     Unique maxunique;
1091     n = nSpecial = 0;
1092     maxunique = 0;
1093     while (maxInodes-- && volume == ip->u.vnode.volumeId) {
1094         n++;
1095         if (ip->u.vnode.vnodeNumber == INODESPECIAL) {
1096             nSpecial++;
1097             rwvolume = ip->u.special.parentId;
1098             /* This isn't quite right, as there could (in error) be different
1099              * parent inodes in different special vnodes */
1100         } else {
1101             if (maxunique < ip->u.vnode.vnodeUniquifier)
1102                 maxunique = ip->u.vnode.vnodeUniquifier;
1103         }
1104         ip++;
1105     }
1106     summary->volumeId = volume;
1107     summary->RWvolumeId = rwvolume;
1108     summary->nInodes = n;
1109     summary->nSpecialInodes = nSpecial;
1110     summary->maxUniquifier = maxunique;
1111 }
1112
1113 int
1114 OnlyOneVolume(struct ViceInodeInfo *inodeinfo, afs_uint32 singleVolumeNumber, void *rock)
1115 {
1116     if (inodeinfo->u.vnode.vnodeNumber == INODESPECIAL)
1117         return (inodeinfo->u.special.parentId == singleVolumeNumber);
1118     return (inodeinfo->u.vnode.volumeId == singleVolumeNumber);
1119 }
1120
1121 /* GetInodeSummary
1122  *
1123  * Collect list of inodes in file named by path. If a truly fatal error,
1124  * unlink the file and abort. For lessor errors, return -1. The file will
1125  * be unlinked by the caller.
1126  */
1127 int
1128 GetInodeSummary(struct SalvInfo *salvinfo, FILE *inodeFile, VolumeId singleVolumeNumber)
1129 {
1130     struct afs_stat status;
1131     int forceSal, err;
1132     int code;
1133     struct ViceInodeInfo *ip, *ip_save;
1134     struct InodeSummary summary;
1135     char summaryFileName[50];
1136     FILE *summaryFile;
1137 #ifdef AFS_NT40_ENV
1138     char *dev = salvinfo->fileSysPath;
1139     char *wpath = salvinfo->fileSysPath;
1140 #else
1141     char *dev = salvinfo->fileSysDeviceName;
1142     char *wpath = salvinfo->filesysfulldev;
1143 #endif
1144     char *part = salvinfo->fileSysPath;
1145     char *tdir;
1146     int i;
1147
1148     /* This file used to come from vfsck; cobble it up ourselves now... */
1149     if ((err =
1150          ListViceInodes(dev, salvinfo->fileSysPath, inodeFile,
1151                         singleVolumeNumber ? OnlyOneVolume : 0,
1152                         singleVolumeNumber, &forceSal, forceR, wpath, NULL)) < 0) {
1153         if (err == -2) {
1154             Log("*** I/O error %d when writing a tmp inode file; Not salvaged %s ***\nIncrease space on partition or use '-tmpdir'\n", errno, dev);
1155             return -1;
1156         }
1157         Abort("Unable to get inodes for \"%s\"; not salvaged\n", dev);
1158     }
1159     if (forceSal && !ForceSalvage) {
1160         Log("***Forced salvage of all volumes on this partition***\n");
1161         ForceSalvage = 1;
1162     }
1163     fseek(inodeFile, 0L, SEEK_SET);
1164     salvinfo->inodeFd = fileno(inodeFile);
1165     if (salvinfo->inodeFd == -1 || afs_fstat(salvinfo->inodeFd, &status) == -1) {
1166         Abort("No inode description file for \"%s\"; not salvaged\n", dev);
1167     }
1168     tdir = (tmpdir ? tmpdir : part);
1169 #ifdef AFS_NT40_ENV
1170     (void)_putenv("TMP=");      /* If "TMP" is set, then that overrides tdir. */
1171     (void)strcpy(summaryFileName, _tempnam(tdir, "salvage.temp."));
1172 #else
1173     (void)afs_snprintf(summaryFileName, sizeof summaryFileName,
1174                        "%s" OS_DIRSEP "salvage.temp.%d", tdir, getpid());
1175 #endif
1176     summaryFile = afs_fopen(summaryFileName, "a+");
1177     if (summaryFile == NULL) {
1178         Abort("Unable to create inode summary file\n");
1179     }
1180
1181 #ifdef AFS_NT40_ENV
1182     /* Using nt_unlink here since we're really using the delete on close
1183      * semantics of unlink. In most places in the salvager, we really do
1184      * mean to unlink the file at that point. Those places have been
1185      * modified to actually do that so that the NT crt can be used there.
1186      *
1187      * jaltman - As commented elsewhere, this cannot work because fopen()
1188      * does not open files with DELETE and FILE_SHARE_DELETE.
1189      */
1190     code = nt_unlink(summaryFileName);
1191 #else
1192     code = unlink(summaryFileName);
1193 #endif
1194     if (code < 0) {
1195         Log("Error %d when trying to unlink %s\n", errno, summaryFileName);
1196     }
1197
1198     if (!canfork || debug || Fork() == 0) {
1199         int nInodes;
1200         unsigned long st_size=(unsigned long) status.st_size;
1201         nInodes = st_size / sizeof(struct ViceInodeInfo);
1202         if (nInodes == 0) {
1203             fclose(summaryFile);
1204             if (!singleVolumeNumber)    /* Remove the FORCESALVAGE file */
1205                 RemoveTheForce(salvinfo->fileSysPath);
1206             else {
1207                 struct VolumeSummary *vsp;
1208                 int i;
1209
1210                 GetVolumeSummary(salvinfo, singleVolumeNumber);
1211
1212                 for (i = 0, vsp = salvinfo->volumeSummaryp; i < salvinfo->nVolumes; i++) {
1213                     if (vsp->fileName)
1214                         DeleteExtraVolumeHeaderFile(salvinfo, vsp);
1215                 }
1216             }
1217             Log("%s vice inodes on %s; not salvaged\n",
1218                 singleVolumeNumber ? "No applicable" : "No", dev);
1219             return -1;
1220         }
1221         ip = (struct ViceInodeInfo *)malloc(nInodes*sizeof(struct ViceInodeInfo));
1222         if (ip == NULL) {
1223             fclose(summaryFile);
1224             Abort
1225                 ("Unable to allocate enough space to read inode table; %s not salvaged\n",
1226                  dev);
1227         }
1228         if (read(salvinfo->inodeFd, ip, st_size) != st_size) {
1229             fclose(summaryFile);
1230             Abort("Unable to read inode table; %s not salvaged\n", dev);
1231         }
1232         qsort(ip, nInodes, sizeof(struct ViceInodeInfo), CompareInodes);
1233         if (afs_lseek(salvinfo->inodeFd, 0, SEEK_SET) == -1
1234             || write(salvinfo->inodeFd, ip, st_size) != st_size) {
1235             fclose(summaryFile);
1236             Abort("Unable to rewrite inode table; %s not salvaged\n", dev);
1237         }
1238         summary.index = 0;
1239         ip_save = ip;
1240         while (nInodes) {
1241             CountVolumeInodes(ip, nInodes, &summary);
1242             if (fwrite(&summary, sizeof(summary), 1, summaryFile) != 1) {
1243                 Log("Difficulty writing summary file (errno = %d); %s not salvaged\n", errno, dev);
1244                 fclose(summaryFile);
1245                 return -1;
1246             }
1247             summary.index += (summary.nInodes);
1248             nInodes -= summary.nInodes;
1249             ip += summary.nInodes;
1250         }
1251         free(ip_save);
1252         ip = ip_save = NULL;
1253         /* Following fflush is not fclose, because if it was debug mode would not work */
1254         if (fflush(summaryFile) == EOF || fsync(fileno(summaryFile)) == -1) {
1255             Log("Unable to write summary file (errno = %d); %s not salvaged\n", errno, dev);
1256             fclose(summaryFile);
1257             return -1;
1258         }
1259         if (canfork && !debug) {
1260             ShowLog = 0;
1261             Exit(0);
1262         }
1263     } else {
1264         if (Wait("Inode summary") == -1) {
1265             fclose(summaryFile);
1266             Exit(1);            /* salvage of this partition aborted */
1267         }
1268     }
1269     osi_Assert(afs_fstat(fileno(summaryFile), &status) != -1);
1270     if (status.st_size != 0) {
1271         int ret;
1272         unsigned long st_status=(unsigned long)status.st_size;
1273         salvinfo->inodeSummary = (struct InodeSummary *)malloc(st_status);
1274         osi_Assert(salvinfo->inodeSummary != NULL);
1275         /* For GNU we need to do lseek to get the file pointer moved. */
1276         osi_Assert(afs_lseek(fileno(summaryFile), 0, SEEK_SET) == 0);
1277         ret = read(fileno(summaryFile), salvinfo->inodeSummary, st_status);
1278         osi_Assert(ret == st_status);
1279     }
1280     salvinfo->nVolumesInInodeFile =(unsigned long)(status.st_size) / sizeof(struct InodeSummary);
1281     for (i = 0; i < salvinfo->nVolumesInInodeFile; i++) {
1282         salvinfo->inodeSummary[i].volSummary = NULL;
1283     }
1284     Log("%d nVolumesInInodeFile %lu \n",salvinfo->nVolumesInInodeFile,(unsigned long)(status.st_size));
1285     fclose(summaryFile);
1286     return 0;
1287 }
1288
1289 /* Comparison routine for volume sort.
1290    This is setup so that a read-write volume comes immediately before
1291    any read-only clones of that volume */
1292 int
1293 CompareVolumes(const void *_p1, const void *_p2)
1294 {
1295     const struct VolumeSummary *p1 = _p1;
1296     const struct VolumeSummary *p2 = _p2;
1297     if (p1->header.parent != p2->header.parent)
1298         return p1->header.parent < p2->header.parent ? -1 : 1;
1299     if (p1->header.id == p1->header.parent)     /* p1 is rw volume */
1300         return -1;
1301     if (p2->header.id == p2->header.parent)     /* p2 is rw volume */
1302         return 1;
1303     return p1->header.id < p2->header.id ? -1 : 1;      /* Both read-only */
1304 }
1305
1306 /**
1307  * Gleans volumeSummary information by asking the fileserver
1308  *
1309  * @param[in] singleVolumeNumber  the volume we're salvaging. 0 if we're
1310  *                                salvaging a whole partition
1311  *
1312  * @return whether we obtained the volume summary information or not
1313  *  @retval 0  success; we obtained the volume summary information
1314  *  @retval -1 we raced with a fileserver restart; volume locks and checkout
1315  *             must be retried
1316  *  @retval 1  we did not get the volume summary information; either the
1317  *             fileserver responded with an error, or we are not supposed to
1318  *             ask the fileserver for the information (e.g. we are salvaging
1319  *             the entire partition or we are not the salvageserver)
1320  *
1321  * @note for non-DAFS, always returns 1
1322  */
1323 static int
1324 AskVolumeSummary(struct SalvInfo *salvinfo, VolumeId singleVolumeNumber)
1325 {
1326     afs_int32 code = 1;
1327 #if defined(FSSYNC_BUILD_CLIENT) && defined(AFS_DEMAND_ATTACH_FS)
1328     if (programType == salvageServer) {
1329         if (singleVolumeNumber) {
1330             FSSYNC_VGQry_response_t q_res;
1331             SYNC_response res;
1332             struct VolumeSummary *vsp;
1333             int i;
1334             struct VolumeDiskHeader diskHdr;
1335
1336             memset(&res, 0, sizeof(res));
1337
1338             code = FSYNC_VGCQuery(salvinfo->fileSysPartition->name, singleVolumeNumber, &q_res, &res);
1339
1340             /*
1341              * We must wait for the partition to finish scanning before
1342              * can continue, since we will not know if we got the entire
1343              * VG membership unless the partition is fully scanned.
1344              * We could, in theory, just scan the partition ourselves if
1345              * the VG cache is not ready, but we would be doing the exact
1346              * same scan the fileserver is doing; it will almost always
1347              * be faster to wait for the fileserver. The only exceptions
1348              * are if the partition does not take very long to scan, and
1349              * in that case it's fast either way, so who cares?
1350              */
1351             if (code == SYNC_FAILED && res.hdr.reason == FSYNC_PART_SCANNING) {
1352                 Log("waiting for fileserver to finish scanning partition %s...\n",
1353                     salvinfo->fileSysPartition->name);
1354
1355                 for (i = 1; code == SYNC_FAILED && res.hdr.reason == FSYNC_PART_SCANNING; i++) {
1356                     /* linearly ramp up from 1 to 10 seconds; nothing fancy,
1357                      * just so small partitions don't need to wait over 10
1358                      * seconds every time, and large partitions are generally
1359                      * polled only once every ten seconds. */
1360                     sleep((i > 10) ? (i = 10) : i);
1361
1362                     code = FSYNC_VGCQuery(salvinfo->fileSysPartition->name, singleVolumeNumber, &q_res, &res);
1363                 }
1364             }
1365
1366             if (code == SYNC_FAILED && res.hdr.reason == FSYNC_UNKNOWN_VOLID) {
1367                 /* This can happen if there's no header for the volume
1368                  * we're salvaging, or no headers exist for the VG (if
1369                  * we're salvaging an RW). Act as if we got a response
1370                  * with no VG members. The headers may be created during
1371                  * salvaging, if there are inodes in this VG. */
1372                 code = 0;
1373                 memset(&q_res, 0, sizeof(q_res));
1374                 q_res.rw = singleVolumeNumber;
1375             }
1376
1377             if (code) {
1378                 Log("fileserver refused VGCQuery request for volume %lu on "
1379                     "partition %s, code %ld reason %ld\n",
1380                     afs_printable_uint32_lu(singleVolumeNumber),
1381                     salvinfo->fileSysPartition->name,
1382                     afs_printable_int32_ld(code),
1383                     afs_printable_int32_ld(res.hdr.reason));
1384                 goto done;
1385             }
1386
1387             if (q_res.rw != singleVolumeNumber) {
1388                 Log("fileserver requested salvage of clone %lu; scheduling salvage of volume group %lu...\n",
1389                     afs_printable_uint32_lu(singleVolumeNumber),
1390                     afs_printable_uint32_lu(q_res.rw));
1391 #ifdef SALVSYNC_BUILD_CLIENT
1392                 if (SALVSYNC_LinkVolume(q_res.rw,
1393                                        singleVolumeNumber,
1394                                        salvinfo->fileSysPartition->name,
1395                                        NULL) != SYNC_OK) {
1396                     Log("schedule request failed\n");
1397                 }
1398 #endif /* SALVSYNC_BUILD_CLIENT */
1399                 Exit(SALSRV_EXIT_VOLGROUP_LINK);
1400             }
1401
1402             salvinfo->volumeSummaryp = malloc(VOL_VG_MAX_VOLS * sizeof(struct VolumeSummary));
1403             osi_Assert(salvinfo->volumeSummaryp != NULL);
1404
1405             salvinfo->nVolumes = 0;
1406             vsp = salvinfo->volumeSummaryp;
1407
1408             for (i = 0; i < VOL_VG_MAX_VOLS; i++) {
1409                 char name[VMAXPATHLEN];
1410
1411                 if (!q_res.children[i]) {
1412                     continue;
1413                 }
1414
1415                 /* AskOffline for singleVolumeNumber was called much earlier */
1416                 if (q_res.children[i] != singleVolumeNumber) {
1417                     AskOffline(salvinfo, q_res.children[i]);
1418                     if (LockVolume(salvinfo, q_res.children[i])) {
1419                         /* need to retry */
1420                         return -1;
1421                     }
1422                 }
1423
1424                 code = VReadVolumeDiskHeader(q_res.children[i], salvinfo->fileSysPartition, &diskHdr);
1425                 if (code) {
1426                     Log("Cannot read header for %lu; trying to salvage group anyway\n",
1427                         afs_printable_uint32_lu(q_res.children[i]));
1428                     code = 0;
1429                     continue;
1430                 }
1431
1432                 DiskToVolumeHeader(&vsp->header, &diskHdr);
1433                 VolumeExternalName_r(q_res.children[i], name, sizeof(name));
1434                 vsp->fileName = ToString(name);
1435                 salvinfo->nVolumes++;
1436                 vsp++;
1437             }
1438
1439             qsort(salvinfo->volumeSummaryp, salvinfo->nVolumes, sizeof(struct VolumeSummary),
1440                   CompareVolumes);
1441         }
1442       done:
1443         if (code) {
1444             Log("Cannot get volume summary from fileserver; falling back to scanning "
1445                 "entire partition\n");
1446         }
1447     }
1448 #endif /* FSSYNC_BUILD_CLIENT && AFS_DEMAND_ATTACH_FS */
1449     return code;
1450 }
1451
1452 /**
1453  * count how many volume headers are found by VWalkVolumeHeaders.
1454  *
1455  * @param[in] dp   the disk partition (unused)
1456  * @param[in] name full path to the .vol header (unused)
1457  * @param[in] hdr  the header data (unused)
1458  * @param[in] last whether this is the last try or not (unused)
1459  * @param[in] rock actually an afs_int32*; the running count of how many
1460  *                 volumes we have found
1461  *
1462  * @retval 0 always
1463  */
1464 static int
1465 CountHeader(struct DiskPartition64 *dp, const char *name,
1466             struct VolumeDiskHeader *hdr, int last, void *rock)
1467 {
1468     afs_int32 *nvols = (afs_int32 *)rock;
1469     (*nvols)++;
1470     return 0;
1471 }
1472
1473 /**
1474  * parameters to pass to the VWalkVolumeHeaders callbacks when recording volume
1475  * data.
1476  */
1477 struct SalvageScanParams {
1478     VolumeId singleVolumeNumber; /**< 0 for a partition-salvage, otherwise the
1479                                   * vol id of the VG we're salvaging */
1480     struct VolumeSummary *vsp;   /**< ptr to the current volume summary object
1481                                   * we're filling in */
1482     afs_int32 nVolumes;          /**< # of vols we've encountered */
1483     afs_int32 totalVolumes;      /**< max # of vols we should encounter (the
1484                                   * # of vols we've alloc'd memory for) */
1485     int retry;  /**< do we need to retry vol lock/checkout? */
1486     struct SalvInfo *salvinfo; /**< salvage job info */
1487 };
1488
1489 /**
1490  * records volume summary info found from VWalkVolumeHeaders.
1491  *
1492  * Found volumes are also taken offline if they are in the specific volume
1493  * group we are looking for.
1494  *
1495  * @param[in] dp   the disk partition
1496  * @param[in] name full path to the .vol header
1497  * @param[in] hdr  the header data
1498  * @param[in] last 1 if this is the last try to read the header, 0 otherwise
1499  * @param[in] rock actually a struct SalvageScanParams*, containing the
1500  *                 information needed to record the volume summary data
1501  *
1502  * @return operation status
1503  *  @retval 0  success
1504  *  @retval -1 volume locking raced with fileserver restart; checking out
1505  *             and locking volumes needs to be retried
1506  *  @retval 1  volume header is mis-named and should be deleted
1507  */
1508 static int
1509 RecordHeader(struct DiskPartition64 *dp, const char *name,
1510              struct VolumeDiskHeader *hdr, int last, void *rock)
1511 {
1512     char nameShouldBe[64];
1513     struct SalvageScanParams *params;
1514     struct VolumeSummary summary;
1515     VolumeId singleVolumeNumber;
1516     struct SalvInfo *salvinfo;
1517
1518     params = (struct SalvageScanParams *)rock;
1519
1520     singleVolumeNumber = params->singleVolumeNumber;
1521     salvinfo = params->salvinfo;
1522
1523     DiskToVolumeHeader(&summary.header, hdr);
1524
1525     if (singleVolumeNumber && summary.header.id == singleVolumeNumber
1526         && summary.header.parent != singleVolumeNumber) {
1527
1528         if (programType == salvageServer) {
1529 #ifdef SALVSYNC_BUILD_CLIENT
1530             Log("fileserver requested salvage of clone %u; scheduling salvage of volume group %u...\n",
1531                 summary.header.id, summary.header.parent);
1532             if (SALVSYNC_LinkVolume(summary.header.parent,
1533                                     summary.header.id,
1534                                     dp->name,
1535                                     NULL) != SYNC_OK) {
1536                 Log("schedule request failed\n");
1537             }
1538 #endif
1539             Exit(SALSRV_EXIT_VOLGROUP_LINK);
1540
1541         } else {
1542             Log("%u is a read-only volume; not salvaged\n",
1543                 singleVolumeNumber);
1544             Exit(1);
1545         }
1546     }
1547
1548     if (!singleVolumeNumber || summary.header.id == singleVolumeNumber
1549         || summary.header.parent == singleVolumeNumber) {
1550
1551         /* check if the header file is incorrectly named */
1552         int badname = 0;
1553         const char *base = strrchr(name, OS_DIRSEPC);
1554         if (base) {
1555             base++;
1556         } else {
1557             base = name;
1558         }
1559
1560         (void)afs_snprintf(nameShouldBe, sizeof nameShouldBe,
1561                            VFORMAT, afs_printable_uint32_lu(summary.header.id));
1562
1563
1564         if (strcmp(nameShouldBe, base)) {
1565             /* .vol file has wrong name; retry/delete */
1566             badname = 1;
1567         }
1568
1569         if (!badname || last) {
1570             /* only offline the volume if the header is good, or if this is
1571              * the last try looking at it; avoid AskOffline'ing the same vol
1572              * multiple times */
1573
1574             if (singleVolumeNumber
1575                 && summary.header.id != singleVolumeNumber) {
1576                 /* don't offline singleVolumeNumber; we already did that
1577                  * earlier */
1578
1579                 AskOffline(salvinfo, summary.header.id);
1580
1581 #ifdef AFS_DEMAND_ATTACH_FS
1582                 if (!badname) {
1583                     /* don't lock the volume if the header is bad, since we're
1584                      * about to delete it anyway. */
1585                     if (LockVolume(salvinfo, summary.header.id)) {
1586                         params->retry = 1;
1587                         return -1;
1588                     }
1589                 }
1590 #endif /* AFS_DEMAND_ATTACH_FS */
1591             }
1592         }
1593         if (badname) {
1594             if (last && !Showmode) {
1595                 Log("Volume header file %s is incorrectly named (should be %s "
1596                     "not %s); %sdeleted (it will be recreated later, if "
1597                     "necessary)\n", name, nameShouldBe, base,
1598                     (Testing ? "it would have been " : ""));
1599             }
1600             return 1;
1601         }
1602
1603         summary.fileName = ToString(base);
1604         params->nVolumes++;
1605
1606         if (params->nVolumes > params->totalVolumes) {
1607             /* We found more volumes than we found on the first partition walk;
1608              * apparently something created a volume while we were
1609              * partition-salvaging, or we found more than 20 vols when salvaging a
1610              * particular volume. Abort if we detect this, since other programs
1611              * supposed to not touch the partition while it is partition-salvaging,
1612              * and we shouldn't find more than 20 vols in a VG.
1613              */
1614             Abort("Found %ld vol headers, but should have found at most %ld! "
1615                   "Make sure the volserver/fileserver are not running at the "
1616                   "same time as a partition salvage\n",
1617                   afs_printable_int32_ld(params->nVolumes),
1618                   afs_printable_int32_ld(params->totalVolumes));
1619         }
1620
1621         memcpy(params->vsp, &summary, sizeof(summary));
1622         params->vsp++;
1623     }
1624
1625     return 0;
1626 }
1627
1628 /**
1629  * possibly unlinks bad volume headers found from VWalkVolumeHeaders.
1630  *
1631  * If the header could not be read in at all, the header is always unlinked.
1632  * If instead RecordHeader said the header was bad (that is, the header file
1633  * is mis-named), we only unlink if we are doing a partition salvage, as
1634  * opposed to salvaging a specific volume group.
1635  *
1636  * @param[in] dp   the disk partition
1637  * @param[in] name full path to the .vol header
1638  * @param[in] hdr  header data, or NULL if the header could not be read
1639  * @param[in] rock actually a struct SalvageScanParams*, with some information
1640  *                 about the scan
1641  */
1642 static void
1643 UnlinkHeader(struct DiskPartition64 *dp, const char *name,
1644              struct VolumeDiskHeader *hdr, void *rock)
1645 {
1646     struct SalvageScanParams *params;
1647     int dounlink = 0;
1648
1649     params = (struct SalvageScanParams *)rock;
1650
1651     if (!hdr) {
1652         /* no header; header is too bogus to read in at all */
1653         if (!Showmode) {
1654             Log("%s is not a legitimate volume header file; %sdeleted\n", name, (Testing ? "it would have been " : ""));
1655         }
1656         if (!Testing) {
1657             dounlink = 1;
1658         }
1659
1660     } else if (!params->singleVolumeNumber) {
1661         /* We were able to read in a header, but RecordHeader said something
1662          * was wrong with it. We only unlink those if we are doing a partition
1663          * salvage. */
1664         if (!Testing) {
1665             dounlink = 1;
1666         }
1667     }
1668
1669     if (dounlink && unlink(name)) {
1670         Log("Error %d while trying to unlink %s\n", errno, name);
1671     }
1672 }
1673
1674 /**
1675  * Populates salvinfo->volumeSummaryp with volume summary information, either by asking
1676  * the fileserver for VG information, or by scanning the /vicepX partition.
1677  *
1678  * @param[in] singleVolumeNumber  the volume ID of the single volume group we
1679  *                                are salvaging, or 0 if this is a partition
1680  *                                salvage
1681  *
1682  * @return operation status
1683  *  @retval 0  success
1684  *  @retval -1 we raced with a fileserver restart; checking out and locking
1685  *             volumes must be retried
1686  */
1687 int
1688 GetVolumeSummary(struct SalvInfo *salvinfo, VolumeId singleVolumeNumber)
1689 {
1690     afs_int32 nvols = 0;
1691     struct SalvageScanParams params;
1692     int code;
1693
1694     code = AskVolumeSummary(salvinfo, singleVolumeNumber);
1695     if (code == 0) {
1696         /* we successfully got the vol information from the fileserver; no
1697          * need to scan the partition */
1698         return 0;
1699     }
1700     if (code < 0) {
1701         /* we need to retry volume checkout */
1702         return code;
1703     }
1704
1705     if (!singleVolumeNumber) {
1706         /* Count how many volumes we have in /vicepX */
1707         code = VWalkVolumeHeaders(salvinfo->fileSysPartition, salvinfo->fileSysPath, CountHeader,
1708                                   NULL, &nvols);
1709         if (code < 0) {
1710             Abort("Can't read directory %s; not salvaged\n", salvinfo->fileSysPath);
1711         }
1712         if (!nvols)
1713             nvols = 1;
1714     } else {
1715         nvols = VOL_VG_MAX_VOLS;
1716     }
1717
1718     salvinfo->volumeSummaryp = malloc(nvols * sizeof(struct VolumeSummary));
1719     osi_Assert(salvinfo->volumeSummaryp != NULL);
1720
1721     params.singleVolumeNumber = singleVolumeNumber;
1722     params.vsp = salvinfo->volumeSummaryp;
1723     params.nVolumes = 0;
1724     params.totalVolumes = nvols;
1725     params.retry = 0;
1726     params.salvinfo = salvinfo;
1727
1728     /* walk the partition directory of volume headers and record the info
1729      * about them; unlinking invalid headers */
1730     code = VWalkVolumeHeaders(salvinfo->fileSysPartition, salvinfo->fileSysPath, RecordHeader,
1731                               UnlinkHeader, &params);
1732     if (params.retry) {
1733         /* we apparently need to retry checking-out/locking volumes */
1734         return -1;
1735     }
1736     if (code < 0) {
1737         Abort("Failed to get volume header summary\n");
1738     }
1739     salvinfo->nVolumes = params.nVolumes;
1740
1741     qsort(salvinfo->volumeSummaryp, salvinfo->nVolumes, sizeof(struct VolumeSummary),
1742           CompareVolumes);
1743
1744     return 0;
1745 }
1746
1747 /* Find the link table. This should be associated with the RW volume or, if
1748  * a RO only site, then the RO volume. For now, be cautious and hunt carefully.
1749  */
1750 Inode
1751 FindLinkHandle(struct InodeSummary *isp, int nVols,
1752                struct ViceInodeInfo *allInodes)
1753 {
1754     int i, j;
1755     struct ViceInodeInfo *ip;
1756
1757     for (i = 0; i < nVols; i++) {
1758         ip = allInodes + isp[i].index;
1759         for (j = 0; j < isp[i].nSpecialInodes; j++) {
1760             if (ip[j].u.special.type == VI_LINKTABLE)
1761                 return ip[j].inodeNumber;
1762         }
1763     }
1764     return (Inode) - 1;
1765 }
1766
1767 int
1768 CreateLinkTable(struct SalvInfo *salvinfo, struct InodeSummary *isp, Inode ino)
1769 {
1770     struct versionStamp version;
1771     FdHandle_t *fdP;
1772
1773     if (!VALID_INO(ino))
1774         ino =
1775             IH_CREATE(NULL, salvinfo->fileSysDevice, salvinfo->fileSysPath, 0, isp->volumeId,
1776                       INODESPECIAL, VI_LINKTABLE, isp->RWvolumeId);
1777     if (!VALID_INO(ino))
1778         Abort
1779             ("Unable to allocate link table inode for volume %u (error = %d)\n",
1780              isp->RWvolumeId, errno);
1781     IH_INIT(salvinfo->VGLinkH, salvinfo->fileSysDevice, isp->RWvolumeId, ino);
1782     fdP = IH_OPEN(salvinfo->VGLinkH);
1783     if (fdP == NULL)
1784         Abort("Can't open link table for volume %u (error = %d)\n",
1785               isp->RWvolumeId, errno);
1786
1787     if (FDH_TRUNC(fdP, sizeof(version) + sizeof(short)) < 0)
1788         Abort("Can't truncate link table for volume %u (error = %d)\n",
1789               isp->RWvolumeId, errno);
1790
1791     version.magic = LINKTABLEMAGIC;
1792     version.version = LINKTABLEVERSION;
1793
1794     if (FDH_PWRITE(fdP, (char *)&version, sizeof(version), 0)
1795         != sizeof(version))
1796         Abort("Can't truncate link table for volume %u (error = %d)\n",
1797               isp->RWvolumeId, errno);
1798
1799     FDH_REALLYCLOSE(fdP);
1800
1801     /* If the volume summary exits (i.e.,  the V*.vol header file exists),
1802      * then set this inode there as well.
1803      */
1804     if (isp->volSummary)
1805         isp->volSummary->header.linkTable = ino;
1806
1807     return 0;
1808 }
1809
1810 #ifdef AFS_NT40_ENV
1811 void *
1812 nt_SVG(void *arg)
1813 {
1814     SVGParms_t *parms = (SVGParms_t *) arg;
1815     DoSalvageVolumeGroup(parms->svgp_salvinfo, parms->svgp_inodeSummaryp, parms->svgp_count);
1816     return NULL;
1817 }
1818
1819 void
1820 SalvageVolumeGroup(struct SalvInfo *salvinfo, struct InodeSummary *isp, int nVols)
1821 {
1822     pthread_t tid;
1823     pthread_attr_t tattr;
1824     int code;
1825     SVGParms_t parms;
1826
1827     /* Initialize per volume global variables, even if later code does so */
1828     salvinfo->VolumeChanged = 0;
1829     salvinfo->VGLinkH = NULL;
1830     salvinfo->VGLinkH_cnt = 0;
1831     memset(&salvinfo->VolInfo, 0, sizeof(salvinfo->VolInfo));
1832
1833     parms.svgp_inodeSummaryp = isp;
1834     parms.svgp_count = nVols;
1835     parms.svgp_salvinfo = salvinfo;
1836     code = pthread_attr_init(&tattr);
1837     if (code) {
1838         Log("Failed to salvage volume group %u: pthread_attr_init()\n",
1839             isp->RWvolumeId);
1840         return;
1841     }
1842     code = pthread_attr_setdetachstate(&tattr, PTHREAD_CREATE_JOINABLE);
1843     if (code) {
1844         Log("Failed to salvage volume group %u: pthread_attr_setdetachstate()\n", isp->RWvolumeId);
1845         return;
1846     }
1847     code = pthread_create(&tid, &tattr, nt_SVG, &parms);
1848     if (code) {
1849         Log("Failed to create thread to salvage volume group %u\n",
1850             isp->RWvolumeId);
1851         return;
1852     }
1853     (void)pthread_join(tid, NULL);
1854 }
1855 #endif /* AFS_NT40_ENV */
1856
1857 void
1858 DoSalvageVolumeGroup(struct SalvInfo *salvinfo, struct InodeSummary *isp, int nVols)
1859 {
1860     struct ViceInodeInfo *inodes, *allInodes, *ip;
1861     int i, totalInodes, size, salvageTo;
1862     int haveRWvolume;
1863     int check;
1864     Inode ino;
1865     int dec_VGLinkH = 0;
1866     int VGLinkH_p1 =0;
1867     FdHandle_t *fdP = NULL;
1868
1869     salvinfo->VGLinkH_cnt = 0;
1870     haveRWvolume = (isp->volumeId == isp->RWvolumeId
1871                     && isp->nSpecialInodes > 0);
1872     if ((!ShowMounts) || (ShowMounts && !haveRWvolume)) {
1873         if (!ForceSalvage && QuickCheck(salvinfo, isp, nVols))
1874             return;
1875     }
1876     if (ShowMounts && !haveRWvolume)
1877         return;
1878     if (canfork && !debug && Fork() != 0) {
1879         (void)Wait("Salvage volume group");
1880         return;
1881     }
1882     for (i = 0, totalInodes = 0; i < nVols; i++)
1883         totalInodes += isp[i].nInodes;
1884     size = totalInodes * sizeof(struct ViceInodeInfo);
1885     inodes = (struct ViceInodeInfo *)malloc(size);
1886     allInodes = inodes - isp->index;    /* this would the base of all the inodes
1887                                          * for the partition, if all the inodes
1888                                          * had been read into memory */
1889     osi_Assert(afs_lseek
1890            (salvinfo->inodeFd, isp->index * sizeof(struct ViceInodeInfo),
1891             SEEK_SET) != -1);
1892     osi_Assert(read(salvinfo->inodeFd, inodes, size) == size);
1893
1894     /* Don't try to salvage a read write volume if there isn't one on this
1895      * partition */
1896     salvageTo = haveRWvolume ? 0 : 1;
1897
1898 #ifdef AFS_NAMEI_ENV
1899     ino = FindLinkHandle(isp, nVols, allInodes);
1900     if (VALID_INO(ino)) {
1901         IH_INIT(salvinfo->VGLinkH, salvinfo->fileSysDevice, isp->RWvolumeId, ino);
1902         fdP = IH_OPEN(salvinfo->VGLinkH);
1903     }
1904     if (!VALID_INO(ino) || fdP == NULL) {
1905         Log("%s link table for volume %u.\n",
1906             Testing ? "Would have recreated" : "Recreating", isp->RWvolumeId);
1907         if (Testing) {
1908             IH_INIT(salvinfo->VGLinkH, salvinfo->fileSysDevice, -1, -1);
1909         } else {
1910             int i, j;
1911             struct ViceInodeInfo *ip;
1912             CreateLinkTable(salvinfo, isp, ino);
1913             fdP = IH_OPEN(salvinfo->VGLinkH);
1914             /* Sync fake 1 link counts to the link table, now that it exists */
1915             if (fdP) {
1916                 for (i = 0; i < nVols; i++) {
1917                         ip = allInodes + isp[i].index;
1918                          for (j = isp[i].nSpecialInodes; j < isp[i].nInodes; j++) {
1919                                  namei_SetLinkCount(fdP, ip[j].inodeNumber, 1, 1);
1920                     }
1921                 }
1922             }
1923         }
1924     }
1925     if (fdP)
1926         FDH_REALLYCLOSE(fdP);
1927 #else
1928     IH_INIT(salvinfo->VGLinkH, salvinfo->fileSysDevice, -1, -1);
1929 #endif
1930
1931     /* Salvage in reverse order--read/write volume last; this way any
1932      * Inodes not referenced by the time we salvage the read/write volume
1933      * can be picked up by the read/write volume */
1934     /* ACTUALLY, that's not done right now--the inodes just vanish */
1935     for (i = nVols - 1; i >= salvageTo; i--) {
1936         int rw = (i == 0);
1937         struct InodeSummary *lisp = &isp[i];
1938 #ifdef AFS_NAMEI_ENV
1939         /* If only the RO is present on this partition, the link table
1940          * shows up as a RW volume special file. Need to make sure the
1941          * salvager doesn't try to salvage the non-existent RW.
1942          */
1943         if (rw && nVols > 1 && isp[i].nSpecialInodes == 1) {
1944             /* If this only special inode is the link table, continue */
1945             if (inodes->u.special.type == VI_LINKTABLE) {
1946                 haveRWvolume = 0;
1947                 continue;
1948             }
1949         }
1950 #endif
1951         if (!Showmode)
1952             Log("%s VOLUME %u%s.\n", rw ? "SALVAGING" : "CHECKING CLONED",
1953                 lisp->volumeId, (Testing ? "(READONLY mode)" : ""));
1954         /* Check inodes twice.  The second time do things seriously.  This
1955          * way the whole RO volume can be deleted, below, if anything goes wrong */
1956         for (check = 1; check >= 0; check--) {
1957             int deleteMe;
1958             if (SalvageVolumeHeaderFile(salvinfo, lisp, allInodes, rw, check, &deleteMe)
1959                 == -1) {
1960                 MaybeZapVolume(salvinfo, lisp, "Volume header", deleteMe, check);
1961                 if (rw && deleteMe) {
1962                     haveRWvolume = 0;   /* This will cause its inodes to be deleted--since salvage
1963                                          * volume won't be called */
1964                     break;
1965                 }
1966                 if (!rw)
1967                     break;
1968             }
1969             if (rw && check == 1)
1970                 continue;
1971             if (SalvageVnodes(salvinfo, isp, lisp, allInodes, check) == -1) {
1972                 MaybeZapVolume(salvinfo, lisp, "Vnode index", 0, check);
1973                 break;
1974             }
1975         }
1976     }
1977
1978     /* Fix actual inode counts */
1979     if (!Showmode) {
1980         afs_ino_str_t stmp;
1981         Log("totalInodes %d\n",totalInodes);
1982         for (ip = inodes; totalInodes; ip++, totalInodes--) {
1983             static int TraceBadLinkCounts = 0;
1984 #ifdef AFS_NAMEI_ENV
1985             if (salvinfo->VGLinkH->ih_ino == ip->inodeNumber) {
1986                 dec_VGLinkH = ip->linkCount - salvinfo->VGLinkH_cnt;
1987                 VGLinkH_p1 = ip->u.param[0];
1988                 continue;       /* Deal with this last. */
1989             }
1990 #endif
1991             if (ip->linkCount != 0 && TraceBadLinkCounts) {
1992                 TraceBadLinkCounts--;   /* Limit reports, per volume */
1993                 Log("#### DEBUG #### Link count incorrect by %d; inode %s, size %llu, p=(%u,%u,%u,%u)\n", ip->linkCount, PrintInode(stmp, ip->inodeNumber), (afs_uintmax_t) ip->byteCount, ip->u.param[0], ip->u.param[1], ip->u.param[2], ip->u.param[3]);
1994             }
1995             while (ip->linkCount > 0) {
1996                 /* below used to assert, not break */
1997                 if (!Testing) {
1998                     if (IH_DEC(salvinfo->VGLinkH, ip->inodeNumber, ip->u.param[0])) {
1999                         Log("idec failed. inode %s errno %d\n",
2000                             PrintInode(stmp, ip->inodeNumber), errno);
2001                         break;
2002                     }
2003                 }
2004                 ip->linkCount--;
2005             }
2006             while (ip->linkCount < 0) {
2007                 /* these used to be asserts */
2008                 if (!Testing) {
2009                     if (IH_INC(salvinfo->VGLinkH, ip->inodeNumber, ip->u.param[0])) {
2010                         Log("iinc failed. inode %s errno %d\n",
2011                             PrintInode(stmp, ip->inodeNumber), errno);
2012                         break;
2013                     }
2014                 }
2015                 ip->linkCount++;
2016             }
2017         }
2018 #ifdef AFS_NAMEI_ENV
2019         while (dec_VGLinkH > 0) {
2020             if (IH_DEC(salvinfo->VGLinkH, salvinfo->VGLinkH->ih_ino, VGLinkH_p1) < 0) {
2021                 Log("idec failed on link table, errno = %d\n", errno);
2022             }
2023             dec_VGLinkH--;
2024         }
2025         while (dec_VGLinkH < 0) {
2026             if (IH_INC(salvinfo->VGLinkH, salvinfo->VGLinkH->ih_ino, VGLinkH_p1) < 0) {
2027                 Log("iinc failed on link table, errno = %d\n", errno);
2028             }
2029             dec_VGLinkH++;
2030         }
2031 #endif
2032     }
2033     free(inodes);
2034     /* Directory consistency checks on the rw volume */
2035     if (haveRWvolume)
2036         SalvageVolume(salvinfo, isp, salvinfo->VGLinkH);
2037     IH_RELEASE(salvinfo->VGLinkH);
2038
2039     if (canfork && !debug) {
2040         ShowLog = 0;
2041         Exit(0);
2042     }
2043 }
2044
2045 int
2046 QuickCheck(struct SalvInfo *salvinfo, struct InodeSummary *isp, int nVols)
2047 {
2048     /* Check headers BEFORE forking */
2049     int i;
2050     IHandle_t *h;
2051
2052     for (i = 0; i < nVols; i++) {
2053         struct VolumeSummary *vs = isp[i].volSummary;
2054         VolumeDiskData volHeader;
2055         if (!vs) {
2056             /* Don't salvage just because phantom rw volume is there... */
2057             /* (If a read-only volume exists, read/write inodes must also exist) */
2058             if (i == 0 && isp->nSpecialInodes == 0 && nVols > 1)
2059                 continue;
2060             return 0;
2061         }
2062         IH_INIT(h, salvinfo->fileSysDevice, vs->header.parent, vs->header.volumeInfo);
2063         if (IH_IREAD(h, 0, (char *)&volHeader, sizeof(volHeader))
2064             == sizeof(volHeader)
2065             && volHeader.stamp.magic == VOLUMEINFOMAGIC
2066             && volHeader.dontSalvage == DONT_SALVAGE
2067             && volHeader.needsSalvaged == 0 && volHeader.destroyMe == 0) {
2068             if (volHeader.inUse != 0) {
2069                 volHeader.inUse = 0;
2070                 volHeader.inService = 1;
2071                 if (!Testing) {
2072                     if (IH_IWRITE(h, 0, (char *)&volHeader, sizeof(volHeader))
2073                         != sizeof(volHeader)) {
2074                         IH_RELEASE(h);
2075                         return 0;
2076                     }
2077                 }
2078             }
2079             IH_RELEASE(h);
2080         } else {
2081             IH_RELEASE(h);
2082             return 0;
2083         }
2084     }
2085     return 1;
2086 }
2087
2088
2089 /* SalvageVolumeHeaderFile
2090  *
2091  * Salvage the top level V*.vol header file. Make sure the special files
2092  * exist and that there are no duplicates.
2093  *
2094  * Calls SalvageHeader for each possible type of volume special file.
2095  */
2096
2097 int
2098 SalvageVolumeHeaderFile(struct SalvInfo *salvinfo, struct InodeSummary *isp,
2099                         struct ViceInodeInfo *inodes, int RW,
2100                         int check, int *deleteMe)
2101 {
2102     int i;
2103     struct ViceInodeInfo *ip;
2104     int allinodesobsolete = 1;
2105     struct VolumeDiskHeader diskHeader;
2106     afs_int32 (*writefunc)(VolumeDiskHeader_t *, struct DiskPartition64 *) = NULL;
2107     int *skip;
2108     struct VolumeHeader tempHeader;
2109     struct afs_inode_info stuff[MAXINODETYPE];
2110
2111     /* keeps track of special inodes that are probably 'good'; they are
2112      * referenced in the vol header, and are included in the given inodes
2113      * array */
2114     struct {
2115         int valid;
2116         Inode inode;
2117     } goodspecial[MAXINODETYPE];
2118
2119     if (deleteMe)
2120         *deleteMe = 0;
2121
2122     memset(goodspecial, 0, sizeof(goodspecial));
2123
2124     skip = malloc(isp->nSpecialInodes * sizeof(*skip));
2125     if (skip) {
2126         memset(skip, 0, isp->nSpecialInodes * sizeof(*skip));
2127     } else {
2128         Log("cannot allocate memory for inode skip array when salvaging "
2129             "volume %lu; not performing duplicate special inode recovery\n",
2130             afs_printable_uint32_lu(isp->volumeId));
2131         /* still try to perform the salvage; the skip array only does anything
2132          * if we detect duplicate special inodes */
2133     }
2134
2135     init_inode_info(&tempHeader, stuff);
2136
2137     /*
2138      * First, look at the special inodes and see if any are referenced by
2139      * the existing volume header. If we find duplicate special inodes, we
2140      * can use this information to use the referenced inode (it's more
2141      * likely to be the 'good' one), and throw away the duplicates.
2142      */
2143     if (isp->volSummary && skip) {
2144         /* use tempHeader, so we can use the stuff[] array to easily index
2145          * into the isp->volSummary special inodes */
2146         memcpy(&tempHeader, &isp->volSummary->header, sizeof(struct VolumeHeader));
2147
2148         for (i = 0; i < isp->nSpecialInodes; i++) {
2149             ip = &inodes[isp->index + i];
2150             if (ip->u.special.type <= 0 || ip->u.special.type > MAXINODETYPE) {
2151                 /* will get taken care of in a later loop */
2152                 continue;
2153             }
2154             if (ip->inodeNumber == *(stuff[ip->u.special.type - 1].inode)) {
2155                 goodspecial[ip->u.special.type-1].valid = 1;
2156                 goodspecial[ip->u.special.type-1].inode = ip->inodeNumber;
2157             }
2158         }
2159     }
2160
2161     memset(&tempHeader, 0, sizeof(tempHeader));
2162     tempHeader.stamp.magic = VOLUMEHEADERMAGIC;
2163     tempHeader.stamp.version = VOLUMEHEADERVERSION;
2164     tempHeader.id = isp->volumeId;
2165     tempHeader.parent = isp->RWvolumeId;
2166
2167     /* Check for duplicates (inodes are sorted by type field) */
2168     for (i = 0; i < isp->nSpecialInodes - 1; i++) {
2169         ip = &inodes[isp->index + i];
2170         if (ip->u.special.type == (ip + 1)->u.special.type) {
2171             afs_ino_str_t stmp1, stmp2;
2172
2173             if (ip->u.special.type <= 0 || ip->u.special.type > MAXINODETYPE) {
2174                 /* Will be caught in the loop below */
2175                 continue;
2176             }
2177             if (!Showmode) {
2178                 Log("Duplicate special %d inodes for volume %u found (%s, %s);\n",
2179                     ip->u.special.type, isp->volumeId,
2180                     PrintInode(stmp1, ip->inodeNumber),
2181                     PrintInode(stmp2, (ip+1)->inodeNumber));
2182             }
2183             if (skip && goodspecial[ip->u.special.type-1].valid) {
2184                 Inode gi = goodspecial[ip->u.special.type-1].inode;
2185
2186                 if (!Showmode) {
2187                     Log("using special inode referenced by vol header (%s)\n",
2188                         PrintInode(stmp1, gi));
2189                 }
2190
2191                 /* the volume header references some special inode of
2192                  * this type in the inodes array; are we it? */
2193                 if (ip->inodeNumber != gi) {
2194                     skip[i] = 1;
2195                 } else if ((ip+1)->inodeNumber != gi) {
2196                     /* in case this is the last iteration; we need to
2197                      * make sure we check ip+1, too */
2198                     skip[i+1] = 1;
2199                 }
2200             } else {
2201                 if (!Showmode)
2202                     Log("cannot determine which is correct; salvage of volume %u aborted\n", isp->volumeId);
2203                 if (skip) {
2204                     free(skip);
2205                 }
2206                 return -1;
2207             }
2208         }
2209     }
2210     for (i = 0; i < isp->nSpecialInodes; i++) {
2211         afs_ino_str_t stmp;
2212         ip = &inodes[isp->index + i];
2213         if (ip->u.special.type <= 0 || ip->u.special.type > MAXINODETYPE) {
2214             if (check) {
2215                 Log("Rubbish header inode %s of type %d\n",
2216                     PrintInode(stmp, ip->inodeNumber),
2217                     ip->u.special.type);
2218                 if (skip) {
2219                     free(skip);
2220                 }
2221                 return -1;
2222             }
2223             Log("Rubbish header inode %s of type %d; deleted\n",
2224                 PrintInode(stmp, ip->inodeNumber),
2225                 ip->u.special.type);
2226         } else if (!stuff[ip->u.special.type - 1].obsolete) {
2227             if (skip && skip[i]) {
2228                 if (orphans == ORPH_REMOVE) {
2229                     Log("Removing orphan special inode %s of type %d\n",
2230                         PrintInode(stmp, ip->inodeNumber), ip->u.special.type);
2231                     continue;
2232                 } else {
2233                     Log("Ignoring orphan special inode %s of type %d\n",
2234                         PrintInode(stmp, ip->inodeNumber), ip->u.special.type);
2235                     /* fall through to the ip->linkCount--; line below */
2236                 }
2237             } else {
2238                 *(stuff[ip->u.special.type - 1].inode) = ip->inodeNumber;
2239                 allinodesobsolete = 0;
2240             }
2241             if (!check && ip->u.special.type != VI_LINKTABLE)
2242                 ip->linkCount--;        /* Keep the inode around */
2243         }
2244     }
2245     if (skip) {
2246         free(skip);
2247     }
2248     skip = NULL;
2249
2250     if (allinodesobsolete) {
2251         if (deleteMe)
2252             *deleteMe = 1;
2253         return -1;
2254     }
2255
2256     if (!check)
2257         salvinfo->VGLinkH_cnt++;                /* one for every header. */
2258
2259     if (!RW && !check && isp->volSummary) {
2260         ClearROInUseBit(isp->volSummary);
2261         return 0;
2262     }
2263
2264     for (i = 0; i < MAXINODETYPE; i++) {
2265         if (stuff[i].inodeType == VI_LINKTABLE) {
2266             /* Gross hack: SalvageHeader does a bcmp on the volume header.
2267              * And we may have recreated the link table earlier, so set the
2268              * RW header as well.
2269              */
2270             if (VALID_INO(salvinfo->VGLinkH->ih_ino)) {
2271                 *stuff[i].inode = salvinfo->VGLinkH->ih_ino;
2272             }
2273             continue;
2274         }
2275         if (SalvageHeader(salvinfo, &stuff[i], isp, check, deleteMe) == -1 && check)
2276             return -1;
2277     }
2278
2279     if (isp->volSummary == NULL) {
2280         char path[64];
2281         char headerName[64];
2282         (void)afs_snprintf(headerName, sizeof headerName, VFORMAT, afs_printable_uint32_lu(isp->volumeId));
2283         (void)afs_snprintf(path, sizeof path, "%s" OS_DIRSEP "%s", salvinfo->fileSysPath, headerName);
2284         if (check) {
2285             Log("No header file for volume %u\n", isp->volumeId);
2286             return -1;
2287         }
2288         if (!Showmode)
2289             Log("No header file for volume %u; %screating %s\n",
2290                 isp->volumeId, (Testing ? "it would have been " : ""),
2291                 path);
2292         isp->volSummary = (struct VolumeSummary *)
2293             malloc(sizeof(struct VolumeSummary));
2294         isp->volSummary->fileName = ToString(headerName);
2295
2296         writefunc = VCreateVolumeDiskHeader;
2297     } else {
2298         char path[64];
2299         char headerName[64];
2300         /* hack: these two fields are obsolete... */
2301         isp->volSummary->header.volumeAcl = 0;
2302         isp->volSummary->header.volumeMountTable = 0;
2303
2304         if (memcmp
2305             (&isp->volSummary->header, &tempHeader,
2306              sizeof(struct VolumeHeader))) {
2307             /* We often remove the name before calling us, so we make a fake one up */
2308             if (isp->volSummary->fileName) {
2309                 strcpy(headerName, isp->volSummary->fileName);
2310             } else {
2311                 (void)afs_snprintf(headerName, sizeof headerName, VFORMAT, afs_printable_uint32_lu(isp->volumeId));
2312                 isp->volSummary->fileName = ToString(headerName);
2313             }
2314             (void)afs_snprintf(path, sizeof path, "%s" OS_DIRSEP "%s", salvinfo->fileSysPath, headerName);
2315
2316             Log("Header file %s is damaged or no longer valid%s\n", path,
2317                 (check ? "" : "; repairing"));
2318             if (check)
2319                 return -1;
2320
2321             writefunc = VWriteVolumeDiskHeader;
2322         }
2323     }
2324     if (writefunc) {
2325         memcpy(&isp->volSummary->header, &tempHeader,
2326                sizeof(struct VolumeHeader));
2327         if (Testing) {
2328             if (!Showmode)
2329                 Log("It would have written a new header file for volume %u\n",
2330                     isp->volumeId);
2331         } else {
2332             afs_int32 code;
2333             VolumeHeaderToDisk(&diskHeader, &tempHeader);
2334             code = (*writefunc)(&diskHeader, salvinfo->fileSysPartition);
2335             if (code) {
2336                 Log("Error %ld writing volume header file for volume %lu\n",
2337                     afs_printable_int32_ld(code),
2338                     afs_printable_uint32_lu(diskHeader.id));
2339                 return -1;
2340             }
2341         }
2342     }
2343     IH_INIT(isp->volSummary->volumeInfoHandle, salvinfo->fileSysDevice, isp->RWvolumeId,
2344             isp->volSummary->header.volumeInfo);
2345     return 0;
2346 }
2347
2348 int
2349 SalvageHeader(struct SalvInfo *salvinfo, struct afs_inode_info *sp,
2350               struct InodeSummary *isp, int check, int *deleteMe)
2351 {
2352     union {
2353         VolumeDiskData volumeInfo;
2354         struct versionStamp fileHeader;
2355     } header;
2356     IHandle_t *specH;
2357     int recreate = 0;
2358     ssize_t nBytes;
2359     FdHandle_t *fdP;
2360
2361     if (sp->obsolete)
2362         return 0;
2363 #ifndef AFS_NAMEI_ENV
2364     if (sp->inodeType == VI_LINKTABLE)
2365         return 0;
2366 #endif
2367     if (*(sp->inode) == 0) {
2368         if (check) {
2369             Log("Missing inode in volume header (%s)\n", sp->description);
2370             return -1;
2371         }
2372         if (!Showmode)
2373             Log("Missing inode in volume header (%s); %s\n", sp->description,
2374                 (Testing ? "it would have recreated it" : "recreating"));
2375         if (!Testing) {
2376             *(sp->inode) =
2377                 IH_CREATE(NULL, salvinfo->fileSysDevice, salvinfo->fileSysPath, 0, isp->volumeId,
2378                           INODESPECIAL, sp->inodeType, isp->RWvolumeId);
2379             if (!VALID_INO(*(sp->inode)))
2380                 Abort
2381                     ("Unable to allocate inode (%s) for volume header (error = %d)\n",
2382                      sp->description, errno);
2383         }
2384         recreate = 1;
2385     }
2386
2387     IH_INIT(specH, salvinfo->fileSysDevice, isp->RWvolumeId, *(sp->inode));
2388     fdP = IH_OPEN(specH);
2389     if (OKToZap && (fdP == NULL) && BadError(errno)) {
2390         /* bail out early and destroy the volume */
2391         if (!Showmode)
2392             Log("Still can't open volume header inode (%s), destroying volume\n", sp->description);
2393         if (deleteMe)
2394             *deleteMe = 1;
2395         IH_RELEASE(specH);
2396         return -1;
2397     }
2398     if (fdP == NULL)
2399         Abort("Unable to open inode (%s) of volume header (error = %d)\n",
2400               sp->description, errno);
2401
2402     if (!recreate
2403         && (FDH_PREAD(fdP, (char *)&header, sp->size, 0) != sp->size
2404             || header.fileHeader.magic != sp->stamp.magic)) {
2405         if (check) {
2406             Log("Part of the header (%s) is corrupted\n", sp->description);
2407             FDH_REALLYCLOSE(fdP);
2408             IH_RELEASE(specH);
2409             return -1;
2410         }
2411         Log("Part of the header (%s) is corrupted; recreating\n",
2412             sp->description);
2413         recreate = 1;
2414         /* header can be garbage; make sure we don't read garbage data from
2415          * it below */
2416         memset(&header, 0, sizeof(header));
2417     }
2418     if (sp->inodeType == VI_VOLINFO
2419         && header.volumeInfo.destroyMe == DESTROY_ME) {
2420         if (deleteMe)
2421             *deleteMe = 1;
2422         FDH_REALLYCLOSE(fdP);
2423         IH_RELEASE(specH);
2424         return -1;
2425     }
2426     if (recreate && !Testing) {
2427         if (check)
2428             Abort
2429                 ("Internal error: recreating volume header (%s) in check mode\n",
2430                  sp->description);
2431         nBytes = FDH_TRUNC(fdP, 0);
2432         if (nBytes == -1)
2433             Abort("Unable to truncate volume header file (%s) (error = %d)\n",
2434                   sp->description, errno);
2435
2436         /* The following code should be moved into vutil.c */
2437         if (sp->inodeType == VI_VOLINFO) {
2438             struct timeval tp;
2439             memset(&header.volumeInfo, 0, sizeof(header.volumeInfo));
2440             header.volumeInfo.stamp = sp->stamp;
2441             header.volumeInfo.id = isp->volumeId;
2442             header.volumeInfo.parentId = isp->RWvolumeId;
2443             sprintf(header.volumeInfo.name, "bogus.%u", isp->volumeId);
2444             Log("Warning: the name of volume %u is now \"bogus.%u\"\n",
2445                 isp->volumeId, isp->volumeId);
2446             header.volumeInfo.inService = 0;
2447             header.volumeInfo.blessed = 0;
2448             /* The + 1000 is a hack in case there are any files out in venus caches */
2449             header.volumeInfo.uniquifier = (isp->maxUniquifier + 1) + 1000;
2450             header.volumeInfo.type = (isp->volumeId == isp->RWvolumeId ? readwriteVolume : readonlyVolume);     /* XXXX */
2451             header.volumeInfo.needsCallback = 0;
2452             gettimeofday(&tp, 0);
2453             header.volumeInfo.creationDate = tp.tv_sec;
2454             nBytes =
2455                 FDH_PWRITE(fdP, (char *)&header.volumeInfo,
2456                            sizeof(header.volumeInfo), 0);
2457             if (nBytes != sizeof(header.volumeInfo)) {
2458                 if (nBytes < 0)
2459                     Abort
2460                         ("Unable to write volume header file (%s) (errno = %d)\n",
2461                          sp->description, errno);
2462                 Abort("Unable to write entire volume header file (%s)\n",
2463                       sp->description);
2464             }
2465         } else {
2466             nBytes = FDH_PWRITE(fdP, (char *)&sp->stamp, sizeof(sp->stamp), 0);
2467             if (nBytes != sizeof(sp->stamp)) {
2468                 if (nBytes < 0)
2469                     Abort
2470                         ("Unable to write version stamp in volume header file (%s) (errno = %d)\n",
2471                          sp->description, errno);
2472                 Abort
2473                     ("Unable to write entire version stamp in volume header file (%s)\n",
2474                      sp->description);
2475             }
2476         }
2477     }
2478     FDH_REALLYCLOSE(fdP);
2479     IH_RELEASE(specH);
2480     if (sp->inodeType == VI_VOLINFO) {
2481         salvinfo->VolInfo = header.volumeInfo;
2482         if (check) {
2483             char update[25];
2484
2485             if (salvinfo->VolInfo.updateDate) {
2486                 strcpy(update, TimeStamp(salvinfo->VolInfo.updateDate, 0));
2487                 if (!Showmode)
2488                     Log("%s (%u) %supdated %s\n", salvinfo->VolInfo.name,
2489                         salvinfo->VolInfo.id,
2490                         (Testing ? "it would have been " : ""), update);
2491             } else {
2492                 strcpy(update, TimeStamp(salvinfo->VolInfo.creationDate, 0));
2493                 if (!Showmode)
2494                     Log("%s (%u) not updated (created %s)\n",
2495                         salvinfo->VolInfo.name, salvinfo->VolInfo.id, update);
2496             }
2497
2498         }
2499     }
2500
2501     return 0;
2502 }
2503
2504 int
2505 SalvageVnodes(struct SalvInfo *salvinfo,
2506               struct InodeSummary *rwIsp,
2507               struct InodeSummary *thisIsp,
2508               struct ViceInodeInfo *inodes, int check)
2509 {
2510     int ilarge, ismall, ioffset, RW, nInodes;
2511     ioffset = rwIsp->index + rwIsp->nSpecialInodes;     /* first inode */
2512     if (Showmode)
2513         return 0;
2514     RW = (rwIsp == thisIsp);
2515     nInodes = (rwIsp->nInodes - rwIsp->nSpecialInodes);
2516     ismall =
2517         SalvageIndex(salvinfo, thisIsp->volSummary->header.smallVnodeIndex, vSmall, RW,
2518                      &inodes[ioffset], nInodes, thisIsp->volSummary, check);
2519     if (check && ismall == -1)
2520         return -1;
2521     ilarge =
2522         SalvageIndex(salvinfo, thisIsp->volSummary->header.largeVnodeIndex, vLarge, RW,
2523                      &inodes[ioffset], nInodes, thisIsp->volSummary, check);
2524     return (ilarge == 0 && ismall == 0 ? 0 : -1);
2525 }
2526
2527 int
2528 SalvageIndex(struct SalvInfo *salvinfo, Inode ino, VnodeClass class, int RW,
2529              struct ViceInodeInfo *ip, int nInodes,
2530              struct VolumeSummary *volSummary, int check)
2531 {
2532     char buf[SIZEOF_LARGEDISKVNODE];
2533     struct VnodeDiskObject *vnode = (struct VnodeDiskObject *)buf;
2534     int err = 0;
2535     StreamHandle_t *file;
2536     struct VnodeClassInfo *vcp;
2537     afs_sfsize_t size;
2538     afs_sfsize_t nVnodes;
2539     afs_fsize_t vnodeLength;
2540     int vnodeIndex;
2541     afs_ino_str_t stmp1, stmp2;
2542     IHandle_t *handle;
2543     FdHandle_t *fdP;
2544
2545     IH_INIT(handle, salvinfo->fileSysDevice, volSummary->header.parent, ino);
2546     fdP = IH_OPEN(handle);
2547     osi_Assert(fdP != NULL);
2548     file = FDH_FDOPEN(fdP, "r+");
2549     osi_Assert(file != NULL);
2550     vcp = &VnodeClassInfo[class];
2551     size = OS_SIZE(fdP->fd_fd);
2552     osi_Assert(size != -1);
2553     nVnodes = (size / vcp->diskSize) - 1;
2554     if (nVnodes > 0) {
2555         osi_Assert((nVnodes + 1) * vcp->diskSize == size);
2556         osi_Assert(STREAM_ASEEK(file, vcp->diskSize) == 0);
2557     } else {
2558         nVnodes = 0;
2559     }
2560     for (vnodeIndex = 0;
2561          nVnodes && STREAM_READ(vnode, vcp->diskSize, 1, file) == 1;
2562          nVnodes--, vnodeIndex++) {
2563         if (vnode->type != vNull) {
2564             int vnodeChanged = 0;
2565             int vnodeNumber = bitNumberToVnodeNumber(vnodeIndex, class);
2566             if (VNDISK_GET_INO(vnode) == 0) {
2567                 if (RW) {
2568                     /* Log("### DEBUG ### Deleted Vnode with 0 inode (vnode %d)\n", vnodeNumber); */
2569                     memset(vnode, 0, vcp->diskSize);
2570                     vnodeChanged = 1;
2571                 }
2572             } else {
2573                 if (vcp->magic != vnode->vnodeMagic) {
2574                     /* bad magic #, probably partially created vnode */
2575                     if (check) {
2576                        Log("Partially allocated vnode %d: bad magic (is %lx should be %lx)\n",
2577                            vnodeNumber, afs_printable_uint32_lu(vnode->vnodeMagic),
2578                            afs_printable_uint32_lu(vcp->magic));
2579                        memset(vnode, 0, vcp->diskSize);
2580                        err = -1;
2581                        goto zooks;
2582                     }
2583                     Log("Partially allocated vnode %d deleted.\n",
2584                         vnodeNumber);
2585                     memset(vnode, 0, vcp->diskSize);
2586                     vnodeChanged = 1;
2587                     goto vnodeDone;
2588                 }
2589                 /* ****** Should do a bit more salvage here:  e.g. make sure
2590                  * vnode type matches what it should be given the index */
2591                 while (nInodes && ip->u.vnode.vnodeNumber < vnodeNumber) {
2592 /*                  if (vnodeIdToClass(ip->u.vnode.vnodeNumber) == class && RW) {
2593  *                     Log("Inode %d: says it belongs to non-existing vnode %d\n",
2594  *                         ip->inodeNumber, ip->u.vnode.vnodeNumber);
2595  *                  }
2596  */
2597                     ip++;
2598                     nInodes--;
2599                 }
2600                 if (!RW) {
2601                     while (nInodes && ip->u.vnode.vnodeNumber == vnodeNumber) {
2602                         /* The following doesn't work, because the version number
2603                          * is not maintained correctly by the file server */
2604                         /*if (vnode->uniquifier == ip->u.vnode.vnodeUniquifier &&
2605                          * vnode->dataVersion == ip->u.vnode.inodeDataVersion)
2606                          * break; */
2607                         if (VNDISK_GET_INO(vnode) == ip->inodeNumber)
2608                             break;
2609                         ip++;
2610                         nInodes--;
2611                     }
2612                 } else {
2613                     /* For RW volume, look for vnode with matching inode number;
2614                      * if no such match, take the first determined by our sort
2615                      * order */
2616                     struct ViceInodeInfo *lip = ip;
2617                     int lnInodes = nInodes;
2618                     while (lnInodes
2619                            && lip->u.vnode.vnodeNumber == vnodeNumber) {
2620                         if (VNDISK_GET_INO(vnode) == lip->inodeNumber) {
2621                             ip = lip;
2622                             nInodes = lnInodes;
2623                             break;
2624                         }
2625                         lip++;
2626                         lnInodes--;
2627                     }
2628                 }
2629                 if (nInodes && ip->u.vnode.vnodeNumber == vnodeNumber) {
2630                     /* "Matching" inode */
2631                     if (RW) {
2632                         Unique vu, iu;
2633                         FileVersion vd, id;
2634                         vu = vnode->uniquifier;
2635                         iu = ip->u.vnode.vnodeUniquifier;
2636                         vd = vnode->dataVersion;
2637                         id = ip->u.vnode.inodeDataVersion;
2638                         /*
2639                          * Because of the possibility of the uniquifier overflows (> 4M)
2640                          * we compare them modulo the low 22-bits; we shouldn't worry
2641                          * about mismatching since they shouldn't to many old
2642                          * uniquifiers of the same vnode...
2643                          */
2644                         if (IUnique(vu) != IUnique(iu)) {
2645                             if (!Showmode) {
2646                                 Log("Vnode %u: vnode.unique, %u, does not match inode unique, %u; fixed, but status will be wrong\n", vnodeNumber, IUnique(vu), IUnique(iu));
2647                             }
2648
2649                             vnode->uniquifier = iu;
2650 #ifdef  AFS_3DISPARES
2651                             vnode->dataVersion = (id >= vd ?
2652                                                   /* 90% of 2.1M */
2653                                                   ((id - vd) >
2654                                                    1887437 ? vd : id) :
2655                                                   /* 90% of 2.1M */
2656                                                   ((vd - id) >
2657                                                    1887437 ? id : vd));
2658 #else
2659 #if defined(AFS_SGI_EXMAG)
2660                             vnode->dataVersion = (id >= vd ?
2661                                                   /* 90% of 16M */
2662                                                   ((id - vd) >
2663                                                    15099494 ? vd : id) :
2664                                                   /* 90% of 16M */
2665                                                   ((vd - id) >
2666                                                    15099494 ? id : vd));
2667 #else
2668                             vnode->dataVersion = (id > vd ? id : vd);
2669 #endif /* AFS_SGI_EXMAG */
2670 #endif /* AFS_3DISPARES */
2671                             vnodeChanged = 1;
2672                         } else {
2673                             /* don't bother checking for vd > id any more, since
2674                              * partial file transfers always result in this state,
2675                              * and you can't do much else anyway (you've already
2676                              * found the best data you can) */
2677 #ifdef  AFS_3DISPARES
2678                             if (!vnodeIsDirectory(vnodeNumber)
2679                                 && ((vd < id && (id - vd) < 1887437)
2680                                     || ((vd > id && (vd - id) > 1887437)))) {
2681 #else
2682 #if defined(AFS_SGI_EXMAG)
2683                             if (!vnodeIsDirectory(vnodeNumber)
2684                                 && ((vd < id && (id - vd) < 15099494)
2685                                     || ((vd > id && (vd - id) > 15099494)))) {
2686 #else
2687                             if (!vnodeIsDirectory(vnodeNumber) && vd < id) {
2688 #endif /* AFS_SGI_EXMAG */
2689 #endif
2690                                 if (!Showmode)
2691                                     Log("Vnode %d: version < inode version; fixed (old status)\n", vnodeNumber);
2692                                 vnode->dataVersion = id;
2693                                 vnodeChanged = 1;
2694                             }
2695                         }
2696                     }
2697                     if (ip->inodeNumber != VNDISK_GET_INO(vnode)) {
2698                         if (check) {
2699                             if (!Showmode) {
2700                                 Log("Vnode %d:  inode number incorrect (is %s should be %s). FileSize=%llu\n", vnodeNumber, PrintInode(stmp1, VNDISK_GET_INO(vnode)), PrintInode(stmp2, ip->inodeNumber), (afs_uintmax_t) ip->byteCount);
2701                             }
2702                             VNDISK_SET_INO(vnode, ip->inodeNumber);
2703                             err = -1;
2704                             goto zooks;
2705                         }
2706                         if (!Showmode) {
2707                             Log("Vnode %d: inode number incorrect; changed from %s to %s. FileSize=%llu\n", vnodeNumber, PrintInode(stmp1, VNDISK_GET_INO(vnode)), PrintInode(stmp2, ip->inodeNumber), (afs_uintmax_t) ip->byteCount);
2708                         }
2709                         VNDISK_SET_INO(vnode, ip->inodeNumber);
2710                         vnodeChanged = 1;
2711                     }
2712                     VNDISK_GET_LEN(vnodeLength, vnode);
2713                     if (ip->byteCount != vnodeLength) {
2714                         if (check) {
2715                             if (!Showmode)
2716                                 Log("Vnode %d: length incorrect; (is %llu should be %llu)\n", vnodeNumber, (afs_uintmax_t) vnodeLength, (afs_uintmax_t) ip->byteCount);
2717                             err = -1;
2718                             goto zooks;
2719                         }
2720                         if (!Showmode)
2721                             Log("Vnode %d: length incorrect; changed from %llu to %llu\n", vnodeNumber, (afs_uintmax_t) vnodeLength, (afs_uintmax_t) ip->byteCount);
2722                         VNDISK_SET_LEN(vnode, ip->byteCount);
2723                         vnodeChanged = 1;
2724                     }
2725                     if (!check)
2726                         ip->linkCount--;        /* Keep the inode around */
2727                     ip++;
2728                     nInodes--;
2729                 } else {        /* no matching inode */
2730                     afs_ino_str_t stmp;
2731                     if (VNDISK_GET_INO(vnode) != 0
2732                         || vnode->type == vDirectory) {
2733                         /* No matching inode--get rid of the vnode */
2734                         if (check) {
2735                             if (VNDISK_GET_INO(vnode)) {
2736                                 if (!Showmode) {
2737                                     Log("Vnode %d (unique %u): corresponding inode %s is missing\n", vnodeNumber, vnode->uniquifier, PrintInode(stmp, VNDISK_GET_INO(vnode)));
2738                                 }
2739                             } else {
2740                                 if (!Showmode)
2741                                     Log("Vnode %d (unique %u): bad directory vnode (no inode number listed)\n", vnodeNumber, vnode->uniquifier);
2742                             }
2743                             err = -1;
2744                             goto zooks;
2745                         }
2746                         if (VNDISK_GET_INO(vnode)) {
2747                             if (!Showmode) {
2748                                 time_t serverModifyTime = vnode->serverModifyTime;
2749                                 Log("Vnode %d (unique %u): corresponding inode %s is missing; vnode deleted, vnode mod time=%s", vnodeNumber, vnode->uniquifier, PrintInode(stmp, VNDISK_GET_INO(vnode)), ctime(&serverModifyTime));
2750                             }
2751                         } else {
2752                             if (!Showmode) {
2753                                 time_t serverModifyTime = vnode->serverModifyTime;
2754                                 Log("Vnode %d (unique %u): bad directory vnode (no inode number listed); vnode deleted, vnode mod time=%s", vnodeNumber, vnode->uniquifier, ctime(&serverModifyTime));
2755                             }
2756                         }
2757                         memset(vnode, 0, vcp->diskSize);
2758                         vnodeChanged = 1;
2759                     } else {
2760                         /* Should not reach here becuase we checked for
2761                          * (inodeNumber == 0) above. And where we zero the vnode,
2762                          * we also goto vnodeDone.
2763                          */
2764                     }
2765                 }
2766                 while (nInodes && ip->u.vnode.vnodeNumber == vnodeNumber) {
2767                     ip++;
2768                     nInodes--;
2769                 }
2770             }                   /* VNDISK_GET_INO(vnode) != 0 */
2771           vnodeDone:
2772             osi_Assert(!(vnodeChanged && check));
2773             if (vnodeChanged && !Testing) {
2774                 osi_Assert(IH_IWRITE
2775                        (handle, vnodeIndexOffset(vcp, vnodeNumber),
2776                         (char *)vnode, vcp->diskSize)
2777                        == vcp->diskSize);
2778                 salvinfo->VolumeChanged = 1;    /* For break call back */
2779             }
2780         }
2781     }
2782   zooks:
2783     STREAM_CLOSE(file);
2784     FDH_CLOSE(fdP);
2785     IH_RELEASE(handle);
2786     return err;
2787 }
2788
2789 struct VnodeEssence *
2790 CheckVnodeNumber(struct SalvInfo *salvinfo, VnodeId vnodeNumber)
2791 {
2792     VnodeClass class;
2793     struct VnodeInfo *vip;
2794     int offset;
2795
2796     class = vnodeIdToClass(vnodeNumber);
2797     vip = &salvinfo->vnodeInfo[class];
2798     offset = vnodeIdToBitNumber(vnodeNumber);
2799     return (offset >= vip->nVnodes ? NULL : &vip->vnodes[offset]);
2800 }
2801
2802 void
2803 CopyOnWrite(struct SalvInfo *salvinfo, struct DirSummary *dir)
2804 {
2805     /* Copy the directory unconditionally if we are going to change it:
2806      * not just if was cloned.
2807      */
2808     struct VnodeDiskObject vnode;
2809     struct VnodeClassInfo *vcp = &VnodeClassInfo[vLarge];
2810     Inode oldinode, newinode;
2811     afs_sfsize_t code;
2812
2813     if (dir->copied || Testing)
2814         return;
2815     DFlush();                   /* Well justified paranoia... */
2816
2817     code =
2818         IH_IREAD(salvinfo->vnodeInfo[vLarge].handle,
2819                  vnodeIndexOffset(vcp, dir->vnodeNumber), (char *)&vnode,
2820                  sizeof(vnode));
2821     osi_Assert(code == sizeof(vnode));
2822     oldinode = VNDISK_GET_INO(&vnode);
2823     /* Increment the version number by a whole lot to avoid problems with
2824      * clients that were promised new version numbers--but the file server
2825      * crashed before the versions were written to disk.
2826      */
2827     newinode =
2828         IH_CREATE(dir->ds_linkH, salvinfo->fileSysDevice, salvinfo->fileSysPath, 0, dir->rwVid,
2829                   dir->vnodeNumber, vnode.uniquifier, vnode.dataVersion +=
2830                   200);
2831     osi_Assert(VALID_INO(newinode));
2832     osi_Assert(CopyInode(salvinfo->fileSysDevice, oldinode, newinode, dir->rwVid) == 0);
2833     vnode.cloned = 0;
2834     VNDISK_SET_INO(&vnode, newinode);
2835     code =
2836         IH_IWRITE(salvinfo->vnodeInfo[vLarge].handle,
2837                   vnodeIndexOffset(vcp, dir->vnodeNumber), (char *)&vnode,
2838                   sizeof(vnode));
2839     osi_Assert(code == sizeof(vnode));
2840
2841     SetSalvageDirHandle(&dir->dirHandle, dir->dirHandle.dirh_handle->ih_vid,
2842                         salvinfo->fileSysDevice, newinode,
2843                         &salvinfo->VolumeChanged);
2844     /* Don't delete the original inode right away, because the directory is
2845      * still being scanned.
2846      */
2847     dir->copied = 1;
2848 }
2849
2850 /*
2851  * This function should either successfully create a new dir, or give up
2852  * and leave things the way they were.  In particular, if it fails to write
2853  * the new dir properly, it should return w/o changing the reference to the
2854  * old dir.
2855  */
2856 void
2857 CopyAndSalvage(struct SalvInfo *salvinfo, struct DirSummary *dir)
2858 {
2859     struct VnodeDiskObject vnode;
2860     struct VnodeClassInfo *vcp = &VnodeClassInfo[vLarge];
2861     Inode oldinode, newinode;
2862     DirHandle newdir;
2863     FdHandle_t *fdP;
2864     afs_int32 code;
2865     afs_sfsize_t lcode;
2866     afs_int32 parentUnique = 1;
2867     struct VnodeEssence *vnodeEssence;
2868     afs_fsize_t length;
2869
2870     if (Testing)
2871         return;
2872     Log("Salvaging directory %u...\n", dir->vnodeNumber);
2873     lcode =
2874         IH_IREAD(salvinfo->vnodeInfo[vLarge].handle,
2875                  vnodeIndexOffset(vcp, dir->vnodeNumber), (char *)&vnode,
2876                  sizeof(vnode));
2877     osi_Assert(lcode == sizeof(vnode));
2878     oldinode = VNDISK_GET_INO(&vnode);
2879     /* Increment the version number by a whole lot to avoid problems with
2880      * clients that were promised new version numbers--but the file server
2881      * crashed before the versions were written to disk.
2882      */
2883     newinode =
2884         IH_CREATE(dir->ds_linkH, salvinfo->fileSysDevice, salvinfo->fileSysPath, 0, dir->rwVid,
2885                   dir->vnodeNumber, vnode.uniquifier, vnode.dataVersion +=
2886                   200);
2887     osi_Assert(VALID_INO(newinode));
2888     SetSalvageDirHandle(&newdir, dir->rwVid, salvinfo->fileSysDevice, newinode,
2889                         &salvinfo->VolumeChanged);
2890
2891     /* Assign . and .. vnode numbers from dir and vnode.parent.
2892      * The uniquifier for . is in the vnode.
2893      * The uniquifier for .. might be set to a bogus value of 1 and
2894      * the salvager will later clean it up.
2895      */
2896     if (vnode.parent && (vnodeEssence = CheckVnodeNumber(salvinfo, vnode.parent))) {
2897         parentUnique = (vnodeEssence->unique ? vnodeEssence->unique : 1);
2898     }
2899     code =
2900         DirSalvage(&dir->dirHandle, &newdir, dir->vnodeNumber,
2901                    vnode.uniquifier,
2902                    (vnode.parent ? vnode.parent : dir->vnodeNumber),
2903                    parentUnique);
2904     if (code == 0)
2905         code = DFlush();
2906     if (code) {
2907         /* didn't really build the new directory properly, let's just give up. */
2908         code = IH_DEC(dir->ds_linkH, newinode, dir->rwVid);
2909         Log("Directory salvage returned code %d, continuing.\n", code);
2910         if (code) {
2911             Log("also failed to decrement link count on new inode");
2912         }
2913         osi_Assert(1 == 2);
2914     }
2915     Log("Checking the results of the directory salvage...\n");
2916     if (!DirOK(&newdir)) {
2917         Log("Directory salvage failed!!!; restoring old version of the directory.\n");
2918         code = IH_DEC(dir->ds_linkH, newinode, dir->rwVid);
2919         osi_Assert(code == 0);
2920         osi_Assert(1 == 2);
2921     }
2922     vnode.cloned = 0;
2923     VNDISK_SET_INO(&vnode, newinode);
2924     length = Length(&newdir);
2925     VNDISK_SET_LEN(&vnode, length);
2926     lcode =
2927         IH_IWRITE(salvinfo->vnodeInfo[vLarge].handle,
2928                   vnodeIndexOffset(vcp, dir->vnodeNumber), (char *)&vnode,
2929                   sizeof(vnode));
2930     osi_Assert(lcode == sizeof(vnode));
2931 #if 0
2932 #ifdef AFS_NT40_ENV
2933     nt_sync(salvinfo->fileSysDevice);
2934 #else
2935     sync();                     /* this is slow, but hopefully rarely called.  We don't have
2936                                  * an open FD on the file itself to fsync.
2937                                  */
2938 #endif
2939 #else
2940     salvinfo->vnodeInfo[vLarge].handle->ih_synced = 1;
2941 #endif
2942     /* make sure old directory file is really closed */
2943     fdP = IH_OPEN(dir->dirHandle.dirh_handle);
2944     FDH_REALLYCLOSE(fdP);
2945
2946     code = IH_DEC(dir->ds_linkH, oldinode, dir->rwVid);
2947     osi_Assert(code == 0);
2948     dir->dirHandle = newdir;
2949 }
2950
2951 /**
2952  * arguments for JudgeEntry.
2953  */
2954 struct judgeEntry_params {
2955     struct DirSummary *dir;    /**< directory we're examining entries in */
2956     struct SalvInfo *salvinfo; /**< SalvInfo for the current salvage job */
2957 };
2958
2959 int
2960 JudgeEntry(void *arock, char *name, afs_int32 vnodeNumber,
2961            afs_int32 unique)
2962 {
2963     struct judgeEntry_params *params = arock;
2964     struct DirSummary *dir = params->dir;
2965     struct SalvInfo *salvinfo = params->salvinfo;
2966     struct VnodeEssence *vnodeEssence;
2967     afs_int32 dirOrphaned, todelete;
2968
2969     dirOrphaned = IsVnodeOrphaned(salvinfo, dir->vnodeNumber);
2970
2971     vnodeEssence = CheckVnodeNumber(salvinfo, vnodeNumber);
2972     if (vnodeEssence == NULL) {
2973         if (!Showmode) {
2974             Log("dir vnode %u: invalid entry deleted: %s" OS_DIRSEP "%s (vnode %u, unique %u)\n", dir->vnodeNumber, dir->name ? dir->name : "??", name, vnodeNumber, unique);
2975         }
2976         if (!Testing) {
2977             CopyOnWrite(salvinfo, dir);
2978             osi_Assert(Delete(&dir->dirHandle, name) == 0);
2979         }
2980         return 0;
2981     }
2982 #ifdef AFS_AIX_ENV
2983 #ifndef AFS_NAMEI_ENV
2984     /* On AIX machines, don't allow entries to point to inode 0. That is a special
2985      * mount inode for the partition. If this inode were deleted, it would crash
2986      * the machine.
2987      */
2988     if (vnodeEssence->InodeNumber == 0) {
2989         Log("dir vnode %d: invalid entry: %s" OS_DIRSEP "%s has no inode (vnode %d, unique %d)%s\n", dir->vnodeNumber, (dir->name ? dir->name : "??"), name, vnodeNumber, unique, (Testing ? "-- would have deleted" : " -- deleted"));
2990         if (!Testing) {
2991             CopyOnWrite(salvinfo, dir);
2992             osi_Assert(Delete(&dir->dirHandle, name) == 0);
2993         }
2994         return 0;
2995     }
2996 #endif
2997 #endif
2998
2999     if (!(vnodeNumber & 1) && !Showmode
3000         && !(vnodeEssence->count || vnodeEssence->unique
3001              || vnodeEssence->modeBits)) {
3002         Log("dir vnode %u: invalid entry: %s" OS_DIRSEP "%s (vnode %u, unique %u)%s\n",
3003             dir->vnodeNumber, (dir->name ? dir->name : "??"), name,
3004             vnodeNumber, unique,
3005             ((!unique) ? (Testing ? "-- would have deleted" : " -- deleted") :
3006              ""));
3007         if (!unique) {
3008             if (!Testing) {
3009                 CopyOnWrite(salvinfo, dir);
3010                 osi_Assert(Delete(&dir->dirHandle, name) == 0);
3011             }
3012             return 0;
3013         }
3014     }
3015
3016     /* Check if the Uniquifiers match. If not, change the directory entry
3017      * so its unique matches the vnode unique. Delete if the unique is zero
3018      * or if the directory is orphaned.
3019      */
3020     if (!vnodeEssence->unique || (vnodeEssence->unique) != unique) {
3021         if (!vnodeEssence->unique
3022             && ((strcmp(name, "..") == 0) || (strcmp(name, ".") == 0))) {
3023             /* This is an orphaned directory. Don't delete the . or ..
3024              * entry. Otherwise, it will get created in the next
3025              * salvage and deleted again here. So Just skip it.
3026              */
3027             return 0;
3028         }
3029
3030         todelete = ((!vnodeEssence->unique || dirOrphaned) ? 1 : 0);
3031
3032         if (!Showmode) {
3033             Log("dir vnode %u: %s" OS_DIRSEP "%s (vnode %u): unique changed from %u to %u %s\n", dir->vnodeNumber, (dir->name ? dir->name : "??"), name, vnodeNumber, unique, vnodeEssence->unique, (!todelete ? "" : (Testing ? "-- would have deleted" : "-- deleted")));
3034         }
3035         if (!Testing) {
3036             AFSFid fid;
3037             fid.Vnode = vnodeNumber;
3038             fid.Unique = vnodeEssence->unique;
3039             CopyOnWrite(salvinfo, dir);
3040             osi_Assert(Delete(&dir->dirHandle, name) == 0);
3041             if (!todelete)
3042                 osi_Assert(Create(&dir->dirHandle, name, &fid) == 0);
3043         }
3044         if (todelete)
3045             return 0;           /* no need to continue */
3046     }
3047
3048     if (strcmp(name, ".") == 0) {
3049         if (dir->vnodeNumber != vnodeNumber || (dir->unique != unique)) {
3050             AFSFid fid;
3051             if (!Showmode)
3052                 Log("directory vnode %u.%u: bad '.' entry (was %u.%u); fixed\n", dir->vnodeNumber, dir->unique, vnodeNumber, unique);
3053             if (!Testing) {
3054                 CopyOnWrite(salvinfo, dir);
3055                 osi_Assert(Delete(&dir->dirHandle, ".") == 0);
3056                 fid.Vnode = dir->vnodeNumber;
3057                 fid.Unique = dir->unique;
3058                 osi_Assert(Create(&dir->dirHandle, ".", &fid) == 0);
3059             }
3060
3061             vnodeNumber = fid.Vnode;    /* Get the new Essence */
3062             unique = fid.Unique;
3063             vnodeEssence = CheckVnodeNumber(salvinfo, vnodeNumber);
3064         }
3065         dir->haveDot = 1;
3066     } else if (strcmp(name, "..") == 0) {
3067         AFSFid pa;
3068         if (dir->parent) {
3069             struct VnodeEssence *dotdot;
3070             pa.Vnode = dir->parent;
3071             dotdot = CheckVnodeNumber(salvinfo, pa.Vnode);
3072             osi_Assert(dotdot != NULL); /* XXX Should not be assert */
3073             pa.Unique = dotdot->unique;
3074         } else {
3075             pa.Vnode = dir->vnodeNumber;
3076             pa.Unique = dir->unique;
3077         }
3078         if ((pa.Vnode != vnodeNumber) || (pa.Unique != unique)) {
3079             if (!Showmode)
3080                 Log("directory vnode %u.%u: bad '..' entry (was %u.%u); fixed\n", dir->vnodeNumber, dir->unique, vnodeNumber, unique);
3081             if (!Testing) {
3082                 CopyOnWrite(salvinfo, dir);
3083                 osi_Assert(Delete(&dir->dirHandle, "..") == 0);
3084                 osi_Assert(Create(&dir->dirHandle, "..", &pa) == 0);
3085             }
3086
3087             vnodeNumber = pa.Vnode;     /* Get the new Essence */
3088             unique = pa.Unique;
3089             vnodeEssence = CheckVnodeNumber(salvinfo, vnodeNumber);
3090         }
3091         dir->haveDotDot = 1;
3092     } else if (strncmp(name, ".__afs", 6) == 0) {
3093         if (!Showmode) {
3094             Log("dir vnode %u: special old unlink-while-referenced file %s %s deleted (vnode %u)\n", dir->vnodeNumber, name, (Testing ? "would have been" : "is"), vnodeNumber);
3095         }
3096         if (!Testing) {
3097             CopyOnWrite(salvinfo, dir);
3098             osi_Assert(Delete(&dir->dirHandle, name) == 0);
3099         }
3100         vnodeEssence->claimed = 0;      /* Not claimed: Orphaned */
3101         vnodeEssence->todelete = 1;     /* Will later delete vnode and decr inode */
3102         return 0;
3103     } else {
3104         if (ShowSuid && (vnodeEssence->modeBits & 06000))
3105             Log("FOUND suid/sgid file: %s" OS_DIRSEP "%s (%u.%u %05o) author %u (vnode %u dir %u)\n", dir->name ? dir->name : "??", name, vnodeEssence->owner, vnodeEssence->group, vnodeEssence->modeBits, vnodeEssence->author, vnodeNumber, dir->vnodeNumber);
3106         if (/* ShowMounts && */ (vnodeEssence->type == vSymlink)
3107             && !(vnodeEssence->modeBits & 0111)) {
3108             afs_sfsize_t nBytes;
3109             afs_sfsize_t size;
3110             char buf[1025];
3111             IHandle_t *ihP;
3112             FdHandle_t *fdP;
3113
3114             IH_INIT(ihP, salvinfo->fileSysDevice, dir->dirHandle.dirh_handle->ih_vid,
3115                     vnodeEssence->InodeNumber);
3116             fdP = IH_OPEN(ihP);
3117             if (fdP == NULL) {
3118                 Log("ERROR %s could not open mount point vnode %u\n", dir->vname, vnodeNumber);
3119                 IH_RELEASE(ihP);
3120                 return 0;
3121             }
3122             size = FDH_SIZE(fdP);
3123             if (size < 0) {
3124                 Log("ERROR %s mount point has invalid size %d, vnode %u\n", dir->vname, (int)size, vnodeNumber);
3125                 FDH_REALLYCLOSE(fdP);
3126                 IH_RELEASE(ihP);
3127                 return 0;
3128             }
3129
3130             if (size > 1024)
3131                 size = 1024;
3132             nBytes = FDH_PREAD(fdP, buf, size, 0);
3133             if (nBytes == size) {
3134                 buf[size] = '\0';
3135                 if ( (*buf != '#' && *buf != '%') || buf[strlen(buf)-1] != '.' ) {
3136                     Log("Volume %u (%s) mount point %s" OS_DIRSEP "%s to '%s' invalid, %s to symbolic link\n",
3137                         dir->dirHandle.dirh_handle->ih_vid, dir->vname, dir->name ? dir->name : "??", name, buf,
3138                         Testing ? "would convert" : "converted");
3139                     vnodeEssence->modeBits |= 0111;
3140                     vnodeEssence->changed = 1;
3141                 } else if (ShowMounts) Log("In volume %u (%s) found mountpoint %s" OS_DIRSEP "%s to '%s'\n",
3142                     dir->dirHandle.dirh_handle->ih_vid, dir->vname,
3143                     dir->name ? dir->name : "??", name, buf);
3144             } else {
3145                 Log("Volume %s cound not read mount point vnode %u size %d code %d\n",
3146                     dir->vname, vnodeNumber, (int)size, (int)nBytes);
3147             }
3148             FDH_REALLYCLOSE(fdP);
3149             IH_RELEASE(ihP);
3150         }
3151         if (ShowRootFiles && vnodeEssence->owner == 0 && vnodeNumber != 1)
3152             Log("FOUND root file: %s" OS_DIRSEP "%s (%u.%u %05o) author %u (vnode %u dir %u)\n", dir->name ? dir->name : "??", name, vnodeEssence->owner, vnodeEssence->group, vnodeEssence->modeBits, vnodeEssence->author, vnodeNumber, dir->vnodeNumber);
3153         if (vnodeIdToClass(vnodeNumber) == vLarge
3154             && vnodeEssence->name == NULL) {
3155             char *n;
3156             if ((n = (char *)malloc(strlen(name) + 1)))
3157                 strcpy(n, name);
3158             vnodeEssence->name = n;
3159         }
3160
3161         /* The directory entry points to the vnode. Check to see if the
3162          * vnode points back to the directory. If not, then let the
3163          * directory claim it (else it might end up orphaned). Vnodes
3164          * already claimed by another directory are deleted from this
3165          * directory: hardlinks to the same vnode are not allowed
3166          * from different directories.
3167          */
3168         if (vnodeEssence->parent != dir->vnodeNumber) {
3169             if (!vnodeEssence->claimed && !dirOrphaned && vnodeNumber != 1) {
3170                 /* Vnode does not point back to this directory.
3171                  * Orphaned dirs cannot claim a file (it may belong to
3172                  * another non-orphaned dir).
3173                  */
3174                 if (!Showmode) {
3175                     Log("dir vnode %u: %s" OS_DIRSEP "%s (vnode %u, unique %u) -- parent vnode %schanged from %u to %u\n", dir->vnodeNumber, (dir->name ? dir->name : "??"), name, vnodeNumber, unique, (Testing ? "would have been " : ""), vnodeEssence->parent, dir->vnodeNumber);
3176                 }
3177                 vnodeEssence->parent = dir->vnodeNumber;
3178                 vnodeEssence->changed = 1;
3179             } else {
3180                 /* Vnode was claimed by another directory */
3181                 if (!Showmode) {
3182                     if (dirOrphaned) {
3183                         Log("dir vnode %u: %s" OS_DIRSEP "%s parent vnode is %u (vnode %u, unique %u) -- %sdeleted\n", dir->vnodeNumber, (dir->name ? dir->name : "??"), name, vnodeEssence->parent, vnodeNumber, unique, (Testing ? "would have been " : ""));
3184                     } else if (vnodeNumber == 1) {
3185                         Log("dir vnode %d: %s" OS_DIRSEP "%s is invalid (vnode %d, unique %d) -- %sdeleted\n", dir->vnodeNumber, (dir->name ? dir->name : "??"), name, vnodeNumber, unique, (Testing ? "would have been " : ""));
3186                     } else {
3187                         Log("dir vnode %u: %s" OS_DIRSEP "%s already claimed by directory vnode %u (vnode %u, unique %u) -- %sdeleted\n", dir->vnodeNumber, (dir->name ? dir->name : "??"), name, vnodeEssence->parent, vnodeNumber, unique, (Testing ? "would have been " : ""));
3188                     }
3189                 }
3190                 if (!Testing) {
3191                     CopyOnWrite(salvinfo, dir);
3192                     osi_Assert(Delete(&dir->dirHandle, name) == 0);
3193                 }
3194                 return 0;
3195             }
3196         }
3197         /* This directory claims the vnode */
3198         vnodeEssence->claimed = 1;
3199     }
3200     vnodeEssence->count--;
3201     return 0;
3202 }
3203
3204 void
3205 DistilVnodeEssence(struct SalvInfo *salvinfo, VolumeId rwVId,
3206                    VnodeClass class, Inode ino, Unique * maxu)
3207 {
3208     struct VnodeInfo *vip = &salvinfo->vnodeInfo[class];
3209     struct VnodeClassInfo *vcp = &VnodeClassInfo[class];
3210     char buf[SIZEOF_LARGEDISKVNODE];
3211     struct VnodeDiskObject *vnode = (struct VnodeDiskObject *)buf;
3212     afs_sfsize_t size;
3213     StreamHandle_t *file;
3214     int vnodeIndex;
3215     int nVnodes;
3216     FdHandle_t *fdP;
3217
3218     IH_INIT(vip->handle, salvinfo->fileSysDevice, rwVId, ino);
3219     fdP = IH_OPEN(vip->handle);
3220     osi_Assert(fdP != NULL);
3221     file = FDH_FDOPEN(fdP, "r+");
3222     osi_Assert(file != NULL);
3223     size = OS_SIZE(fdP->fd_fd);
3224     osi_Assert(size != -1);
3225     vip->nVnodes = (size / vcp->diskSize) - 1;
3226     if (vip->nVnodes > 0) {
3227         osi_Assert((vip->nVnodes + 1) * vcp->diskSize == size);
3228         osi_Assert(STREAM_ASEEK(file, vcp->diskSize) == 0);
3229         osi_Assert((vip->vnodes = (struct VnodeEssence *)
3230                 calloc(vip->nVnodes, sizeof(struct VnodeEssence))) != NULL);
3231         if (class == vLarge) {
3232             osi_Assert((vip->inodes = (Inode *)
3233                     calloc(vip->nVnodes, sizeof(Inode))) != NULL);
3234         } else {
3235             vip->inodes = NULL;
3236         }
3237     } else {
3238         vip->nVnodes = 0;
3239         vip->vnodes = NULL;
3240         vip->inodes = NULL;
3241     }
3242     vip->volumeBlockCount = vip->nAllocatedVnodes = 0;
3243     for (vnodeIndex = 0, nVnodes = vip->nVnodes;
3244          nVnodes && STREAM_READ(vnode, vcp->diskSize, 1, file) == 1;
3245          nVnodes--, vnodeIndex++) {
3246         if (vnode->type != vNull) {
3247             struct VnodeEssence *vep = &vip->vnodes[vnodeIndex];
3248             afs_fsize_t vnodeLength;
3249             vip->nAllocatedVnodes++;
3250             vep->count = vnode->linkCount;
3251             VNDISK_GET_LEN(vnodeLength, vnode);
3252             vep->blockCount = nBlocks(vnodeLength);
3253             vip->volumeBlockCount += vep->blockCount;
3254             vep->parent = vnode->parent;
3255             vep->unique = vnode->uniquifier;
3256             if (*maxu < vnode->uniquifier)
3257                 *maxu = vnode->uniquifier;
3258             vep->modeBits = vnode->modeBits;
3259             vep->InodeNumber = VNDISK_GET_INO(vnode);
3260             vep->type = vnode->type;
3261             vep->author = vnode->author;
3262             vep->owner = vnode->owner;
3263             vep->group = vnode->group;
3264             if (vnode->type == vDirectory) {
3265                 if (class != vLarge) {
3266                     VnodeId vnodeNumber = bitNumberToVnodeNumber(vnodeIndex, class);
3267                     vip->nAllocatedVnodes--;
3268                     memset(vnode, 0, sizeof(vnode));
3269                     IH_IWRITE(salvinfo->vnodeInfo[vSmall].handle,
3270                               vnodeIndexOffset(vcp, vnodeNumber),
3271                               (char *)&vnode, sizeof(vnode));
3272                     salvinfo->VolumeChanged = 1;
3273                 } else
3274                     vip->inodes[vnodeIndex] = VNDISK_GET_INO(vnode);
3275             }
3276         }
3277     }
3278     STREAM_CLOSE(file);
3279     FDH_CLOSE(fdP);
3280 }
3281
3282 static char *
3283 GetDirName(struct SalvInfo *salvinfo, VnodeId vnode, struct VnodeEssence *vp,
3284            char *path)
3285 {
3286     struct VnodeEssence *parentvp;
3287
3288     if (vnode == 1) {
3289         strcpy(path, ".");
3290         return path;
3291     }
3292     if (vp->parent && vp->name && (parentvp = CheckVnodeNumber(salvinfo, vp->parent))
3293         && GetDirName(salvinfo, vp->parent, parentvp, path)) {
3294         strcat(path, OS_DIRSEP);
3295         strcat(path, vp->name);
3296         return path;
3297     }
3298     return 0;
3299 }
3300
3301 /* To determine if a vnode is orhpaned or not, the vnode and all its parent
3302  * vnodes must be "claimed". The vep->claimed flag is set in JudgeEntry().
3303  */
3304 static int
3305 IsVnodeOrphaned(struct SalvInfo *salvinfo, VnodeId vnode)
3306 {
3307     struct VnodeEssence *vep;
3308
3309     if (vnode == 0)
3310         return (1);             /* Vnode zero does not exist */
3311     if (vnode == 1)
3312         return (0);             /* The root dir vnode is always claimed */
3313     vep = CheckVnodeNumber(salvinfo, vnode);    /* Get the vnode essence */
3314     if (!vep || !vep->claimed)
3315         return (1);             /* Vnode is not claimed - it is orphaned */
3316
3317     return (IsVnodeOrphaned(salvinfo, vep->parent));
3318 }
3319
3320 void
3321 SalvageDir(struct SalvInfo *salvinfo, char *name, VolumeId rwVid,
3322            struct VnodeInfo *dirVnodeInfo, IHandle_t * alinkH, int i,
3323            struct DirSummary *rootdir, int *rootdirfound)
3324 {
3325     static struct DirSummary dir;
3326     static struct DirHandle dirHandle;
3327     struct VnodeEssence *parent;
3328     static char path[MAXPATHLEN];
3329     int dirok, code;
3330
3331     if (dirVnodeInfo->vnodes[i].salvaged)
3332         return;                 /* already salvaged */
3333
3334     dir.rwVid = rwVid;
3335     dirVnodeInfo->vnodes[i].salvaged = 1;
3336
3337     if (dirVnodeInfo->inodes[i] == 0)
3338         return;                 /* Not allocated to a directory */
3339
3340     if (bitNumberToVnodeNumber(i, vLarge) == 1) {
3341         if (dirVnodeInfo->vnodes[i].parent) {
3342             Log("Bad parent, vnode 1; %s...\n",
3343                 (Testing ? "skipping" : "salvaging"));
3344             dirVnodeInfo->vnodes[i].parent = 0;
3345             dirVnodeInfo->vnodes[i].changed = 1;
3346         }
3347     } else {
3348         parent = CheckVnodeNumber(salvinfo, dirVnodeInfo->vnodes[i].parent);
3349         if (parent && parent->salvaged == 0)
3350             SalvageDir(salvinfo, name, rwVid, dirVnodeInfo, alinkH,
3351                        vnodeIdToBitNumber(dirVnodeInfo->vnodes[i].parent),
3352                        rootdir, rootdirfound);
3353     }
3354
3355     dir.vnodeNumber = bitNumberToVnodeNumber(i, vLarge);
3356     dir.unique = dirVnodeInfo->vnodes[i].unique;
3357     dir.copied = 0;
3358     dir.vname = name;
3359     dir.parent = dirVnodeInfo->vnodes[i].parent;
3360     dir.haveDot = dir.haveDotDot = 0;
3361     dir.ds_linkH = alinkH;
3362     SetSalvageDirHandle(&dir.dirHandle, dir.rwVid, salvinfo->fileSysDevice,
3363                         dirVnodeInfo->inodes[i], &salvinfo->VolumeChanged);
3364
3365     dirok = ((RebuildDirs && !Testing) ? 0 : DirOK(&dir.dirHandle));
3366     if (!dirok) {
3367         if (!RebuildDirs) {
3368             Log("Directory bad, vnode %u; %s...\n", dir.vnodeNumber,
3369                 (Testing ? "skipping" : "salvaging"));
3370         }
3371         if (!Testing) {
3372             CopyAndSalvage(salvinfo, &dir);
3373             dirok = 1;
3374             dirVnodeInfo->inodes[i] = dir.dirHandle.dirh_inode;
3375         }
3376     }
3377     dirHandle = dir.dirHandle;
3378
3379     dir.name =
3380         GetDirName(salvinfo, bitNumberToVnodeNumber(i, vLarge),
3381                    &dirVnodeInfo->vnodes[i], path);
3382
3383     if (dirok) {
3384         /* If enumeration failed for random reasons, we will probably delete
3385          * too much stuff, so we guard against this instead.
3386          */
3387         struct judgeEntry_params judge_params;
3388         judge_params.salvinfo = salvinfo;
3389         judge_params.dir = &dir;
3390
3391         osi_Assert(EnumerateDir(&dirHandle, JudgeEntry, &judge_params) == 0);
3392     }
3393
3394     /* Delete the old directory if it was copied in order to salvage.
3395      * CopyOnWrite has written the new inode # to the disk, but we still
3396      * have the old one in our local structure here.  Thus, we idec the
3397      * local dude.
3398      */
3399     DFlush();
3400     if (dir.copied && !Testing) {
3401         code = IH_DEC(dir.ds_linkH, dirHandle.dirh_handle->ih_ino, rwVid);
3402         osi_Assert(code == 0);
3403         dirVnodeInfo->inodes[i] = dir.dirHandle.dirh_inode;
3404     }
3405
3406     /* Remember rootdir DirSummary _after_ it has been judged */
3407     if (dir.vnodeNumber == 1 && dir.unique == 1) {
3408         memcpy(rootdir, &dir, sizeof(struct DirSummary));
3409         *rootdirfound = 1;
3410     }
3411
3412     return;
3413 }
3414
3415 /**
3416  * Get a new FID that can be used to create a new file.
3417  *