src/afs/afs_daemons.c

   1 /*
   2  * Copyright 2000, International Business Machines Corporation and others.
   3  * All Rights Reserved.
   4  *
   5  * This software has been released under the terms of the IBM Public
   6  * License.  For details, see the LICENSE file in the top-level source
   7  * directory or online at http://www.openafs.org/dl/license10.html
   8  */
   9
  10 #include <afsconfig.h>
  11 #include "afs/param.h"
  12
  13
  14 #ifdef AFS_AIX51_ENV
  15 #define __FULL_PROTO
  16 #include <sys/sleep.h>
  17 #endif
  18
  19 #include "afs/sysincludes.h"    /* Standard vendor system headers */
  20 #include "afsincludes.h"        /* Afs-based standard headers */
  21 #include "afs/afs_stats.h"      /* statistics gathering code */
  22 #include "afs/afs_cbqueue.h"
  23 #ifdef AFS_AIX_ENV
  24 #include <sys/adspace.h>        /* for vm_att(), vm_det() */
  25 #endif
  26
  27 #if defined(AFS_CACHE_BYPASS)
  28 #include "afs/afs_bypasscache.h"
  29 #endif /* AFS_CACHE_BYPASS */
  30 /* background request queue size */
  31 afs_lock_t afs_xbrs;            /* lock for brs */
  32 static int brsInit = 0;
  33 short afs_brsWaiters = 0;       /* number of users waiting for brs buffers */
  34 short afs_brsDaemons = 0;       /* number of daemons waiting for brs requests */
  35 struct brequest afs_brs[NBRS];  /* request structures */
  36 struct afs_osi_WaitHandle AFS_WaitHandler, AFS_CSWaitHandler;
  37 static int afs_brs_count = 0;   /* request counter, to service reqs in order */
  38
  39 /* PAG garbage collection */
  40 /* We induce a compile error if param.h does not define AFS_GCPAGS */
  41 afs_int32 afs_gcpags = AFS_GCPAGS;
  42 afs_int32 afs_gcpags_procsize = 0;
  43
  44 afs_int32 afs_CheckServerDaemonStarted = 0;
  45 #ifndef DEFAULT_PROBE_INTERVAL
  46 #define DEFAULT_PROBE_INTERVAL 30       /* default to 3 min */
  47 #endif
  48 afs_int32 afs_probe_interval = DEFAULT_PROBE_INTERVAL;
  49 afs_int32 afs_probe_all_interval = 600;
  50 afs_int32 afs_nat_probe_interval = 60;
  51 afs_int32 afs_preCache = 0;
  52
  53 #define PROBE_WAIT() (1000 * (afs_probe_interval - ((afs_random() & 0x7fffffff) \
  54                       % (afs_probe_interval/2))))
  55
  56 void
  57 afs_SetCheckServerNATmode(int isnat)
  58 {
  59     static afs_int32 old_intvl, old_all_intvl;
  60     static int wasnat;
  61
  62     if (isnat && !wasnat) {
  63         old_intvl = afs_probe_interval;
  64         old_all_intvl = afs_probe_all_interval;
  65         afs_probe_interval = afs_nat_probe_interval;
  66         afs_probe_all_interval = afs_nat_probe_interval;
  67         afs_osi_CancelWait(&AFS_CSWaitHandler);
  68     } else if (!isnat && wasnat) {
  69         afs_probe_interval = old_intvl;
  70         afs_probe_all_interval = old_all_intvl;
  71     }
  72     wasnat = isnat;
  73 }
  74
  75 void
  76 afs_CheckServerDaemon(void)
  77 {
  78     afs_int32 now, delay, lastCheck, last10MinCheck;
  79
  80     afs_CheckServerDaemonStarted = 1;
  81
  82     while (afs_initState < 101)
  83         afs_osi_Sleep(&afs_initState);
  84     afs_osi_Wait(PROBE_WAIT(), &AFS_CSWaitHandler, 0);
  85
  86     last10MinCheck = lastCheck = osi_Time();
  87     while (1) {
  88         if (afs_termState == AFSOP_STOP_CS) {
  89             afs_termState = AFSOP_STOP_TRUNCDAEMON;
  90             afs_osi_Wakeup(&afs_termState);
  91             break;
  92         }
  93
  94         now = osi_Time();
  95         if (afs_probe_interval + lastCheck <= now) {
  96             afs_CheckServers(1, NULL);  /* check down servers */
  97             lastCheck = now = osi_Time();
  98         }
  99
 100         if (afs_probe_all_interval + last10MinCheck <= now) {
 101             afs_Trace1(afs_iclSetp, CM_TRACE_PROBEUP, ICL_TYPE_INT32, afs_probe_all_interval);
 102             afs_CheckServers(0, NULL);
 103             last10MinCheck = now = osi_Time();
 104         }
 105         /* shutdown check. */
 106         if (afs_termState == AFSOP_STOP_CS) {
 107             afs_termState = AFSOP_STOP_TRUNCDAEMON;
 108             afs_osi_Wakeup(&afs_termState);
 109             break;
 110         }
 111
 112         /* Compute time to next probe. */
 113         delay = afs_probe_interval + lastCheck;
 114         if (delay > afs_probe_all_interval + last10MinCheck)
 115             delay = afs_probe_all_interval + last10MinCheck;
 116         delay -= now;
 117         if (delay < 1)
 118             delay = 1;
 119         afs_osi_Wait(delay * 1000, &AFS_CSWaitHandler, 0);
 120     }
 121     afs_CheckServerDaemonStarted = 0;
 122 }
 123
 124 extern int vfs_context_ref;
 125
 126 /* This function always holds the GLOCK whilst it is running. The caller
 127  * gets the GLOCK before invoking it, and afs_osi_Sleep drops the GLOCK
 128  * whilst we are sleeping, and regains it when we're woken up.
 129  */
 130 void
 131 afs_Daemon(void)
 132 {
 133     afs_int32 code;
 134     struct afs_exporter *exporter;
 135     afs_int32 now;
 136     afs_int32 last3MinCheck, last10MinCheck, last60MinCheck, lastNMinCheck;
 137     afs_int32 last1MinCheck, last5MinCheck;
 138     afs_uint32 lastCBSlotBump;
 139
 140     AFS_STATCNT(afs_Daemon);
 141
 142     afs_rootFid.Fid.Volume = 0;
 143     while (afs_initState < 101)
 144         afs_osi_Sleep(&afs_initState);
 145
 146 #ifdef AFS_DARWIN80_ENV
 147     if (afs_osi_ctxtp_initialized)
 148         osi_Panic("vfs context already initialized");
 149     while (afs_osi_ctxtp && vfs_context_ref)
 150         afs_osi_Sleep(&afs_osi_ctxtp);
 151     if (afs_osi_ctxtp && !vfs_context_ref)
 152        vfs_context_rele(afs_osi_ctxtp);
 153     afs_osi_ctxtp = vfs_context_create(NULL);
 154     afs_osi_ctxtp_initialized = 1;
 155 #endif
 156     now = osi_Time();
 157     lastCBSlotBump = now;
 158
 159     /* when a lot of clients are booted simultaneously, they develop
 160      * annoying synchronous VL server bashing behaviors.  So we stagger them.
 161      */
 162     last1MinCheck = now + ((afs_random() & 0x7fffffff) % 60);   /* an extra 30 */
 163     last3MinCheck = now - 90 + ((afs_random() & 0x7fffffff) % 180);
 164     last60MinCheck = now - 1800 + ((afs_random() & 0x7fffffff) % 3600);
 165     last10MinCheck = now - 300 + ((afs_random() & 0x7fffffff) % 600);
 166     last5MinCheck = now - 150 + ((afs_random() & 0x7fffffff) % 300);
 167     lastNMinCheck = now - 90 + ((afs_random() & 0x7fffffff) % 180);
 168
 169     /* start off with afs_initState >= 101 (basic init done) */
 170     while (1) {
 171         afs_CheckCallbacks(20); /* unstat anything which will expire soon */
 172
 173         /* things to do every 20 seconds or less - required by protocol spec */
 174         if (afs_nfsexporter)
 175             afs_FlushActiveVcaches(0);  /* flush NFS writes */
 176         afs_FlushVCBs(1);       /* flush queued callbacks */
 177
 178         afs_MaybeWakeupTruncateDaemon();        /* free cache space if have too */
 179         rx_CheckPackets();      /* Does RX need more packets? */
 180
 181         now = osi_Time();
 182         if (lastCBSlotBump + CBHTSLOTLEN < now) {       /* pretty time-dependant */
 183             lastCBSlotBump = now;
 184             if (afs_BumpBase()) {
 185                 afs_CheckCallbacks(20); /* unstat anything which will expire soon */
 186             }
 187         }
 188
 189         if (last1MinCheck + 60 < now) {
 190             /* things to do every minute */
 191             DFlush();           /* write out dir buffers */
 192             (void)afs_WriteThroughDSlots();     /* write through cacheinfo entries */
 193             ObtainWriteLock(&afs_xvcache, 736);
 194             afs_FlushReclaimedVcaches();
 195             ReleaseWriteLock(&afs_xvcache);
 196             afs_FlushActiveVcaches(1);  /* keep flocks held & flush nfs writes */
 197             last1MinCheck = now;
 198         }
 199
 200         if (last3MinCheck + 180 < now) {
 201             afs_CheckTokenCache();      /* check for access cache resets due to expired
 202                                          * tickets */
 203             last3MinCheck = now;
 204         }
 205
 206         if (afsd_dynamic_vcaches && (last5MinCheck + 300 < now)) {
 207             /* start with trying to drop us back to our base usage */
 208             int anumber = VCACHE_FREE + (afs_vcount - afs_cacheStats);
 209
 210             if (anumber > 0) {
 211                 ObtainWriteLock(&afs_xvcache, 734);
 212                 afs_ShakeLooseVCaches(anumber);
 213                 ReleaseWriteLock(&afs_xvcache);
 214             }
 215             last5MinCheck = now;
 216         }
 217
 218         if (!afs_CheckServerDaemonStarted) {
 219             if (lastNMinCheck + afs_probe_interval < now) {
 220                 /* only check down servers */
 221                 afs_CheckServers(1, NULL);
 222                 lastNMinCheck = now;
 223             }
 224         }
 225         if (last10MinCheck + 600 < now) {
 226 #ifdef AFS_USERSPACE_IP_ADDR
 227             extern int rxi_GetcbiInfo(void);
 228 #endif
 229             afs_Trace1(afs_iclSetp, CM_TRACE_PROBEUP, ICL_TYPE_INT32, 600);
 230 #ifdef AFS_USERSPACE_IP_ADDR
 231             if (rxi_GetcbiInfo()) {     /* addresses changed from last time */
 232                 afs_FlushCBs();
 233             }
 234 #else /* AFS_USERSPACE_IP_ADDR */
 235             if (rxi_GetIFInfo()) {      /* addresses changed from last time */
 236                 afs_FlushCBs();
 237             }
 238 #endif /* else AFS_USERSPACE_IP_ADDR */
 239             if (!afs_CheckServerDaemonStarted)
 240                 afs_CheckServers(0, NULL);
 241             afs_GCUserData();   /* gc old conns */
 242             /* This is probably the wrong way of doing GC for the various exporters but it will suffice for a while */
 243             for (exporter = root_exported; exporter;
 244                  exporter = exporter->exp_next) {
 245                 (void)EXP_GC(exporter, 0);      /* Generalize params */
 246             }
 247             {
 248                 static int cnt = 0;
 249                 if (++cnt < 12) {
 250                     afs_CheckVolumeNames(AFS_VOLCHECK_EXPIRED |
 251                                          AFS_VOLCHECK_BUSY);
 252                 } else {
 253                     cnt = 0;
 254                     afs_CheckVolumeNames(AFS_VOLCHECK_EXPIRED |
 255                                          AFS_VOLCHECK_BUSY |
 256                                          AFS_VOLCHECK_MTPTS);
 257                 }
 258             }
 259             last10MinCheck = now;
 260         }
 261         if (last60MinCheck + 3600 < now) {
 262             afs_Trace1(afs_iclSetp, CM_TRACE_PROBEVOLUME, ICL_TYPE_INT32,
 263                        3600);
 264             afs_CheckRootVolume();
 265 #if AFS_GCPAGS
 266             if (afs_gcpags == AFS_GCPAGS_OK) {
 267                 afs_int32 didany;
 268                 afs_GCPAGs(&didany);
 269             }
 270 #endif
 271             last60MinCheck = now;
 272         }
 273         if (afs_initState < 300) {      /* while things ain't rosy */
 274             code = afs_CheckRootVolume();
 275             if (code == 0)
 276                 afs_initState = 300;    /* succeeded */
 277             if (afs_initState < 200)
 278                 afs_initState = 200;    /* tried once */
 279             afs_osi_Wakeup(&afs_initState);
 280         }
 281
 282         /* 18285 is because we're trying to divide evenly into 128, that is,
 283          * CBSlotLen, while staying just under 20 seconds.  If CBSlotLen
 284          * changes, should probably change this interval, too.
 285          * Some of the preceding actions may take quite some time, so we
 286          * might not want to wait the entire interval */
 287         now = 18285 - (osi_Time() - now);
 288         if (now > 0) {
 289             afs_osi_Wait(now, &AFS_WaitHandler, 0);
 290         }
 291
 292         if (afs_termState == AFSOP_STOP_AFS) {
 293             if (afs_CheckServerDaemonStarted)
 294                 afs_termState = AFSOP_STOP_CS;
 295             else
 296                 afs_termState = AFSOP_STOP_TRUNCDAEMON;
 297             afs_osi_Wakeup(&afs_termState);
 298             return;
 299         }
 300     }
 301 }
 302
 303 int
 304 afs_CheckRootVolume(void)
 305 {
 306     char rootVolName[MAXROOTVOLNAMELEN];
 307     struct volume *tvp = NULL;
 308     int usingDynroot = afs_GetDynrootEnable();
 309     int localcell;
 310
 311     AFS_STATCNT(afs_CheckRootVolume);
 312     if (*afs_rootVolumeName == 0) {
 313         strcpy(rootVolName, "root.afs");
 314     } else {
 315         strcpy(rootVolName, afs_rootVolumeName);
 316     }
 317
 318     if (usingDynroot) {
 319         afs_GetDynrootFid(&afs_rootFid);
 320         tvp = afs_GetVolume(&afs_rootFid, NULL, READ_LOCK);
 321     } else {
 322         struct cell *lc = afs_GetPrimaryCell(READ_LOCK);
 323
 324         if (!lc)
 325             return ENOENT;
 326         localcell = lc->cellNum;
 327         afs_PutCell(lc, READ_LOCK);
 328         tvp = afs_GetVolumeByName(rootVolName, localcell, 1, NULL, READ_LOCK);
 329         if (!tvp) {
 330             char buf[128];
 331             int len = strlen(rootVolName);
 332
 333             if ((len < 9) || strcmp(&rootVolName[len - 9], ".readonly")) {
 334                 strcpy(buf, rootVolName);
 335                 afs_strcat(buf, ".readonly");
 336                 tvp = afs_GetVolumeByName(buf, localcell, 1, NULL, READ_LOCK);
 337             }
 338         }
 339         if (tvp) {
 340             int volid = (tvp->roVol ? tvp->roVol : tvp->volume);
 341             afs_rootFid.Cell = localcell;
 342             if (afs_rootFid.Fid.Volume && afs_rootFid.Fid.Volume != volid
 343                 && afs_globalVp) {
 344                 /* If we had a root fid before and it changed location we reset
 345                  * the afs_globalVp so that it will be reevaluated.
 346                  * Just decrement the reference count. This only occurs during
 347                  * initial cell setup and can panic the machine if we set the
 348                  * count to zero and fs checkv is executed when the current
 349                  * directory is /afs.
 350                  */
 351 #ifdef AFS_LINUX22_ENV
 352                 osi_ResetRootVCache(volid);
 353 #else
 354 # ifdef AFS_DARWIN80_ENV
 355                 afs_PutVCache(afs_globalVp);
 356 # else
 357                 AFS_FAST_RELE(afs_globalVp);
 358 # endif
 359                 afs_globalVp = 0;
 360 #endif
 361             }
 362             afs_rootFid.Fid.Volume = volid;
 363             afs_rootFid.Fid.Vnode = 1;
 364             afs_rootFid.Fid.Unique = 1;
 365         }
 366     }
 367     if (tvp) {
 368         afs_initState = 300;    /* won */
 369         afs_osi_Wakeup(&afs_initState);
 370         afs_PutVolume(tvp, READ_LOCK);
 371     }
 372     if (afs_rootFid.Fid.Volume)
 373         return 0;
 374     else
 375         return ENOENT;
 376 }
 377
 378 /* ptr_parm 0 is the pathname, size_parm 0 to the fetch is the chunk number */
 379 static void
 380 BPath(struct brequest *ab)
 381 {
 382     struct dcache *tdc = NULL;
 383     struct vcache *tvc = NULL;
 384     struct vnode *tvn = NULL;
 385 #ifdef AFS_LINUX22_ENV
 386     struct dentry *dp = NULL;
 387 #endif
 388     afs_size_t offset, len;
 389     struct vrequest *treq = NULL;
 390     afs_int32 code;
 391
 392     AFS_STATCNT(BPath);
 393     if ((code = afs_CreateReq(&treq, ab->cred))) {
 394         return;
 395     }
 396     AFS_GUNLOCK();
 397 #ifdef AFS_LINUX22_ENV
 398     code = gop_lookupname((char *)ab->ptr_parm[0], AFS_UIOSYS, 1, &dp);
 399     if (dp)
 400         tvn = (struct vnode *)dp->d_inode;
 401 #else
 402     code = gop_lookupname((char *)ab->ptr_parm[0], AFS_UIOSYS, 1, &tvn);
 403 #endif
 404     AFS_GLOCK();
 405     osi_FreeLargeSpace((char *)ab->ptr_parm[0]);        /* free path name buffer here */
 406     if (code) {
 407         afs_DestroyReq(treq);
 408         return;
 409     }
 410     /* now path may not have been in afs, so check that before calling our cache manager */
 411     if (!tvn || !IsAfsVnode(tvn)) {
 412         /* release it and give up */
 413         if (tvn) {
 414 #ifdef AFS_LINUX22_ENV
 415             dput(dp);
 416 #else
 417             AFS_RELE(tvn);
 418 #endif
 419         }
 420         afs_DestroyReq(treq);
 421         return;
 422     }
 423     tvc = VTOAFS(tvn);
 424     /* here we know its an afs vnode, so we can get the data for the chunk */
 425     tdc = afs_GetDCache(tvc, ab->size_parm[0], treq, &offset, &len, 1);
 426     if (tdc) {
 427         afs_PutDCache(tdc);
 428     }
 429 #ifdef AFS_LINUX22_ENV
 430     dput(dp);
 431 #else
 432     AFS_RELE(tvn);
 433 #endif
 434     afs_DestroyReq(treq);
 435 }
 436
 437 /* size_parm 0 to the fetch is the chunk number,
 438  * ptr_parm 0 is the dcache entry to wakeup,
 439  * size_parm 1 is true iff we should release the dcache entry here.
 440  */
 441 static void
 442 BPrefetch(struct brequest *ab)
 443 {
 444     struct dcache *tdc;
 445     struct vcache *tvc;
 446     afs_size_t offset, len, abyte, totallen = 0;
 447     struct vrequest *treq = NULL;
 448     int code;
 449
 450     AFS_STATCNT(BPrefetch);
 451     if ((code = afs_CreateReq(&treq, ab->cred)))
 452         return;
 453     abyte = ab->size_parm[0];
 454     tvc = ab->vc;
 455     do {
 456         tdc = afs_GetDCache(tvc, abyte, treq, &offset, &len, 1);
 457         if (tdc) {
 458             afs_PutDCache(tdc);
 459         }
 460         abyte+=len;
 461         totallen += len;
 462     } while ((totallen < afs_preCache) && tdc && (len > 0));
 463     /* now, dude may be waiting for us to clear DFFetchReq bit; do so.  Can't
 464      * use tdc from GetDCache since afs_GetDCache may fail, but someone may
 465      * be waiting for our wakeup anyway.
 466      */
 467     tdc = (struct dcache *)(ab->ptr_parm[0]);
 468     ObtainSharedLock(&tdc->lock, 640);
 469     if (tdc->mflags & DFFetchReq) {
 470         UpgradeSToWLock(&tdc->lock, 641);
 471         tdc->mflags &= ~DFFetchReq;
 472         ReleaseWriteLock(&tdc->lock);
 473     } else {
 474         ReleaseSharedLock(&tdc->lock);
 475     }
 476     afs_osi_Wakeup(&tdc->validPos);
 477     if (ab->size_parm[1]) {
 478         afs_PutDCache(tdc);     /* put this one back, too */
 479     }
 480     afs_DestroyReq(treq);
 481 }
 482
 483 #if defined(AFS_CACHE_BYPASS)
 484 static void
 485 BPrefetchNoCache(struct brequest *ab)
 486 {
 487     struct vrequest *treq = NULL;
 488     int code;
 489
 490     if ((code = afs_CreateReq(&treq, ab->cred)))
 491         return;
 492
 493 #ifndef UKERNEL
 494     /* OS-specific prefetch routine */
 495     afs_PrefetchNoCache(ab->vc, ab->cred, (struct nocache_read_request *) ab->ptr_parm[0]);
 496 #endif
 497     afs_DestroyReq(treq);
 498 }
 499 #endif
 500
 501 static void
 502 BStore(struct brequest *ab)
 503 {
 504     struct vcache *tvc;
 505     afs_int32 code;
 506     struct vrequest *treq = NULL;
 507 #if defined(AFS_SGI_ENV)
 508     struct cred *tmpcred;
 509 #endif
 510
 511     AFS_STATCNT(BStore);
 512     if ((code = afs_CreateReq(&treq, ab->cred)))
 513         return;
 514     tvc = ab->vc;
 515 #if defined(AFS_SGI_ENV)
 516     /*
 517      * Since StoreOnLastReference can end up calling osi_SyncVM which
 518      * calls into VM code that assumes that u.u_cred has the
 519      * correct credentials, we set our to theirs for this xaction
 520      */
 521     tmpcred = OSI_GET_CURRENT_CRED();
 522     OSI_SET_CURRENT_CRED(ab->cred);
 523
 524     /*
 525      * To avoid recursion since the WriteLock may be released during VM
 526      * operations, we hold the VOP_RWLOCK across this transaction as
 527      * do the other callers of StoreOnLastReference
 528      */
 529     AFS_RWLOCK((vnode_t *) tvc, 1);
 530 #endif
 531     ObtainWriteLock(&tvc->lock, 209);
 532     code = afs_StoreOnLastReference(tvc, treq);
 533     ReleaseWriteLock(&tvc->lock);
 534 #if defined(AFS_SGI_ENV)
 535     OSI_SET_CURRENT_CRED(tmpcred);
 536     AFS_RWUNLOCK((vnode_t *) tvc, 1);
 537 #endif
 538     /* now set final return code, and wakeup anyone waiting */
 539     if ((ab->flags & BUVALID) == 0) {
 540
 541         /* To explain code_raw/code_checkcode:
 542          * Anyone that's waiting won't have our treq, so they won't be able to
 543          * call afs_CheckCode themselves on the return code we provide here.
 544          * But if we give back only the afs_CheckCode value, they won't know
 545          * what the "raw" value was. So give back both values, so the waiter
 546          * can know the "raw" value for interpreting the value internally, as
 547          * well as the afs_CheckCode value to give to the OS. */
 548         ab->code_raw = code;
 549         ab->code_checkcode = afs_CheckCode(code, treq, 430);
 550
 551         ab->flags |= BUVALID;
 552         if (ab->flags & BUWAIT) {
 553             ab->flags &= ~BUWAIT;
 554             afs_osi_Wakeup(ab);
 555         }
 556     }
 557     afs_DestroyReq(treq);
 558 }
 559
 560 static void
 561 BPartialStore(struct brequest *ab)
 562 {
 563     struct vcache *tvc;
 564     afs_int32 code;
 565     struct vrequest *treq = NULL;
 566     int locked, shared_locked = 0;
 567
 568     AFS_STATCNT(BStore);
 569     if ((code = afs_CreateReq(&treq, ab->cred)))
 570         return;
 571     tvc = ab->vc;
 572     locked = tvc->lock.excl_locked? 1:0;
 573     if (!locked)
 574         ObtainWriteLock(&tvc->lock, 1209);
 575     else if (!(tvc->lock.excl_locked & WRITE_LOCK)) {
 576         shared_locked = 1;
 577         ConvertSToRLock(&tvc->lock);
 578     }
 579     code = afs_StoreAllSegments(tvc, treq, AFS_ASYNC);
 580     if (!locked)
 581         ReleaseWriteLock(&tvc->lock);
 582     else if (shared_locked)
 583         ConvertSToRLock(&tvc->lock);
 584     /* now set final return code, and wakeup anyone waiting */
 585     if ((ab->flags & BUVALID) == 0) {
 586         /* set final code, since treq doesn't go across processes */
 587         ab->code_raw = code;
 588         ab->code_checkcode = afs_CheckCode(code, treq, 43);
 589         ab->flags |= BUVALID;
 590         if (ab->flags & BUWAIT) {
 591             ab->flags &= ~BUWAIT;
 592             afs_osi_Wakeup(ab);
 593         }
 594     }
 595     afs_DestroyReq(treq);
 596 }
 597
 598 static void
 599 BInvalidateSegments(struct brequest *ab)
 600 {
 601     int code;
 602     struct vcache *tvc = ab->vc;
 603     osi_Assert(WriteLocked(&tvc->lock));
 604
 605     code = afs_InvalidateAllSegments_once(tvc);
 606
 607     /* Set return code, and wakeup anyone waiting. */
 608     if ((ab->flags & BUVALID) == 0) {
 609         ab->code_raw = ab->code_checkcode = code;
 610         ab->flags |= BUVALID;
 611         if ((ab->flags & BUWAIT)) {
 612             ab->flags &= ~BUWAIT;
 613             afs_osi_Wakeup(ab);
 614         }
 615     }
 616 }
 617
 618 /* release a held request buffer */
 619 void
 620 afs_BRelease(struct brequest *ab)
 621 {
 622
 623     AFS_STATCNT(afs_BRelease);
 624     ObtainWriteLock(&afs_xbrs, 294);
 625     if (--ab->refCount <= 0) {
 626         ab->flags = 0;
 627     }
 628     if (afs_brsWaiters)
 629         afs_osi_Wakeup(&afs_brsWaiters);
 630     ReleaseWriteLock(&afs_xbrs);
 631 }
 632
 633 /* return true if bkg fetch daemons are all busy */
 634 int
 635 afs_BBusy(void)
 636 {
 637     AFS_STATCNT(afs_BBusy);
 638     if (afs_brsDaemons > 0)
 639         return 0;
 640     return 1;
 641 }
 642
 643 struct brequest *
 644 afs_BQueue(short aopcode, struct vcache *avc,
 645            afs_int32 dontwait, afs_int32 ause, afs_ucred_t *acred,
 646            afs_size_t asparm0, afs_size_t asparm1, void *apparm0,
 647            void *apparm1, void *apparm2)
 648 {
 649     int i;
 650     struct brequest *tb;
 651
 652     AFS_STATCNT(afs_BQueue);
 653     ObtainWriteLock(&afs_xbrs, 296);
 654     while (1) {
 655         tb = afs_brs;
 656         for (i = 0; i < NBRS; i++, tb++) {
 657             if (tb->refCount == 0)
 658                 break;
 659         }
 660         if (i < NBRS) {
 661             /* found a buffer */
 662             tb->opcode = aopcode;
 663             tb->vc = avc;
 664             tb->cred = acred;
 665             if (tb->cred) {
 666                 crhold(tb->cred);
 667             }
 668             if (avc) {
 669                 osi_Assert(osi_vnhold(avc) == 0);
 670             }
 671             tb->refCount = ause + 1;
 672             tb->size_parm[0] = asparm0;
 673             tb->size_parm[1] = asparm1;
 674             tb->ptr_parm[0] = apparm0;
 675             tb->ptr_parm[1] = apparm1;
 676             tb->ptr_parm[2] = apparm2;
 677             tb->flags = 0;
 678             tb->code_raw = tb->code_checkcode = 0;
 679             tb->ts = afs_brs_count++;
 680             /* if daemons are waiting for work, wake them up */
 681             if (afs_brsDaemons > 0) {
 682                 afs_osi_Wakeup(&afs_brsDaemons);
 683             }
 684             ReleaseWriteLock(&afs_xbrs);
 685             return tb;
 686         }
 687         if (dontwait) {
 688             ReleaseWriteLock(&afs_xbrs);
 689             return NULL;
 690         }
 691         /* no free buffers, sleep a while */
 692         afs_brsWaiters++;
 693         ReleaseWriteLock(&afs_xbrs);
 694         afs_osi_Sleep(&afs_brsWaiters);
 695         ObtainWriteLock(&afs_xbrs, 301);
 696         afs_brsWaiters--;
 697     }
 698 }
 699
 700 #ifdef AFS_AIX41_ENV
 701 /* AIX 4.1 has a much different sleep/wakeup mechanism available for use.
 702  * The modifications here will work for either a UP or MP machine.
 703  */
 704 struct buf *afs_asyncbuf = (struct buf *)0;
 705 tid_t afs_asyncbuf_cv = EVENT_NULL;
 706 afs_int32 afs_biodcnt = 0;
 707
 708 /* in implementing this, I assumed that all external linked lists were
 709  * null-terminated.
 710  *
 711  * Several places in this code traverse a linked list.  The algorithm
 712  * used here is probably unfamiliar to most people.  Careful examination
 713  * will show that it eliminates an assignment inside the loop, as compared
 714  * to the standard algorithm, at the cost of occasionally using an extra
 715  * variable.
 716  */
 717
 718 /* get_bioreq()
 719  *
 720  * This function obtains, and returns, a pointer to a buffer for
 721  * processing by a daemon.  It sleeps until such a buffer is available.
 722  * The source of buffers for it is the list afs_asyncbuf (see also
 723  * afs_gn_strategy).  This function may be invoked concurrently by
 724  * several processes, that is, several instances of the same daemon.
 725  * afs_gn_strategy, which adds buffers to the list, runs at interrupt
 726  * level, while get_bioreq runs at process level.
 727  *
 728  * Since AIX 4.1 can wake just one process at a time, the separate sleep
 729  * addresses have been removed.
 730  * Note that the kernel_lock is held until the e_sleep_thread() occurs.
 731  * The afs_asyncbuf_lock is primarily used to serialize access between
 732  * process and interrupts.
 733  */
 734 Simple_lock afs_asyncbuf_lock;
 735 struct buf *
 736 afs_get_bioreq()
 737 {
 738     struct buf *bp = NULL;
 739     struct buf *bestbp;
 740     struct buf **bestlbpP, **lbpP;
 741     long bestage, stop;
 742     struct buf *t1P, *t2P;      /* temp pointers for list manipulation */
 743     int oldPriority;
 744     afs_uint32 wait_ret;
 745     struct afs_bioqueue *s;
 746
 747     /* ??? Does the forward pointer of the returned buffer need to be NULL?
 748      */
 749
 750     /* Disable interrupts from the strategy function, and save the
 751      * prior priority level and lock access to the afs_asyncbuf.
 752      */
 753     AFS_GUNLOCK();
 754     oldPriority = disable_lock(INTMAX, &afs_asyncbuf_lock);
 755
 756     while (1) {
 757         if (afs_asyncbuf) {
 758             /* look for oldest buffer */
 759             bp = bestbp = afs_asyncbuf;
 760             bestage = (long)bestbp->av_back;
 761             bestlbpP = &afs_asyncbuf;
 762             while (1) {
 763                 lbpP = &bp->av_forw;
 764                 bp = *lbpP;
 765                 if (!bp)
 766                     break;
 767                 if ((long)bp->av_back - bestage < 0) {
 768                     bestbp = bp;
 769                     bestlbpP = lbpP;
 770                     bestage = (long)bp->av_back;
 771                 }
 772             }
 773             bp = bestbp;
 774             *bestlbpP = bp->av_forw;
 775             break;
 776         } else {
 777             /* If afs_asyncbuf is null, it is necessary to go to sleep.
 778              * e_wakeup_one() ensures that only one thread wakes.
 779              */
 780             int interrupted;
 781             /* The LOCK_HANDLER indicates to e_sleep_thread to only drop the
 782              * lock on an MP machine.
 783              */
 784             interrupted =
 785                 e_sleep_thread(&afs_asyncbuf_cv, &afs_asyncbuf_lock,
 786                                LOCK_HANDLER | INTERRUPTIBLE);
 787             if (interrupted == THREAD_INTERRUPTED) {
 788                 /* re-enable interrupts from strategy */
 789                 unlock_enable(oldPriority, &afs_asyncbuf_lock);
 790                 AFS_GLOCK();
 791                 return (NULL);
 792             }
 793         }                       /* end of "else asyncbuf is empty" */
 794     }                           /* end of "inner loop" */
 795
 796     /*assert (bp); */
 797
 798     unlock_enable(oldPriority, &afs_asyncbuf_lock);
 799     AFS_GLOCK();
 800
 801     /* For the convenience of other code, replace the gnodes in
 802      * the b_vp field of bp and the other buffers on the b_work
 803      * chain with the corresponding vnodes.
 804      *
 805      * ??? what happens to the gnodes?  They're not just cut loose,
 806      * are they?
 807      */
 808     for (t1P = bp;;) {
 809         t2P = (struct buf *)t1P->b_work;
 810         t1P->b_vp = ((struct gnode *)t1P->b_vp)->gn_vnode;
 811         if (!t2P)
 812             break;
 813
 814         t1P = (struct buf *)t2P->b_work;
 815         t2P->b_vp = ((struct gnode *)t2P->b_vp)->gn_vnode;
 816         if (!t1P)
 817             break;
 818     }
 819
 820     /* If the buffer does not specify I/O, it may immediately
 821      * be returned to the caller.  This condition is detected
 822      * by examining the buffer's flags (the b_flags field).  If
 823      * the B_PFPROT bit is set, the buffer represents a protection
 824      * violation, rather than a request for I/O.  The remainder
 825      * of the outer loop handles the case where the B_PFPROT bit is clear.
 826      */
 827     if (bp->b_flags & B_PFPROT) {
 828         return (bp);
 829     }
 830     return (bp);
 831
 832 }                               /* end of function get_bioreq() */
 833
 834
 835 /* afs_BioDaemon
 836  *
 837  * This function is the daemon.  It is called from the syscall
 838  * interface.  Ordinarily, a script or an administrator will run a
 839  * daemon startup utility, specifying the number of I/O daemons to
 840  * run.  The utility will fork off that number of processes,
 841  * each making the appropriate syscall, which will cause this
 842  * function to be invoked.
 843  */
 844 static int afs_initbiod = 0;    /* this is self-initializing code */
 845 int DOvmlock = 0;
 846 int
 847 afs_BioDaemon(afs_int32 nbiods)
 848 {
 849     afs_int32 code, s, pflg = 0;
 850     label_t jmpbuf;
 851     struct buf *bp, *bp1, *tbp1, *tbp2; /* temp pointers only */
 852     caddr_t tmpaddr;
 853     struct vnode *vp;
 854     struct vcache *vcp;
 855     char tmperr;
 856     if (!afs_initbiod) {
 857         /* XXX ###1 XXX */
 858         afs_initbiod = 1;
 859         /* pin lock, since we'll be using it in an interrupt. */
 860         lock_alloc(&afs_asyncbuf_lock, LOCK_ALLOC_PIN, 2, 1);
 861         simple_lock_init(&afs_asyncbuf_lock);
 862         pin(&afs_asyncbuf, sizeof(struct buf *));
 863         pin(&afs_asyncbuf_cv, sizeof(afs_int32));
 864     }
 865
 866     /* Ignore HUP signals... */
 867     {
 868         sigset_t sigbits, osigbits;
 869         /*
 870          * add SIGHUP to the set of already masked signals
 871          */
 872         SIGFILLSET(sigbits);    /* allow all signals    */
 873         SIGDELSET(sigbits, SIGHUP);     /*   except SIGHUP      */
 874         limit_sigs(&sigbits, &osigbits);        /*   and already masked */
 875     }
 876     /* Main body starts here -- this is an intentional infinite loop, and
 877      * should NEVER exit
 878      *
 879      * Now, the loop will exit if get_bioreq() returns NULL, indicating
 880      * that we've been interrupted.
 881      */
 882     while (1) {
 883         bp = afs_get_bioreq();
 884         if (!bp)
 885             break;              /* we were interrupted */
 886         if (code = setjmpx(&jmpbuf)) {
 887             /* This should not have happend, maybe a lack of resources  */
 888             AFS_GUNLOCK();
 889             s = disable_lock(INTMAX, &afs_asyncbuf_lock);
 890             for (bp1 = bp; bp; bp = bp1) {
 891                 if (bp1)
 892                     bp1 = (struct buf *)bp1->b_work;
 893                 bp->b_actf = 0;
 894                 bp->b_error = code;
 895                 bp->b_flags |= B_ERROR;
 896                 iodone(bp);
 897             }
 898             unlock_enable(s, &afs_asyncbuf_lock);
 899             AFS_GLOCK();
 900             continue;
 901         }
 902         vcp = VTOAFS(bp->b_vp);
 903         if (bp->b_flags & B_PFSTORE) {  /* XXXX */
 904             ObtainWriteLock(&vcp->lock, 404);
 905             if (vcp->v.v_gnode->gn_mwrcnt) {
 906                 afs_offs_t newlength =
 907                     (afs_offs_t) dbtob(bp->b_blkno) + bp->b_bcount;
 908                 if (vcp->f.m.Length < newlength) {
 909                     afs_Trace4(afs_iclSetp, CM_TRACE_SETLENGTH,
 910                                ICL_TYPE_STRING, __FILE__, ICL_TYPE_LONG,
 911                                __LINE__, ICL_TYPE_OFFSET,
 912                                ICL_HANDLE_OFFSET(vcp->f.m.Length),
 913                                ICL_TYPE_OFFSET, ICL_HANDLE_OFFSET(newlength));
 914                     vcp->f.m.Length = newlength;
 915                 }
 916             }
 917             ReleaseWriteLock(&vcp->lock);
 918         }
 919         /* If the buffer represents a protection violation, rather than
 920          * an actual request for I/O, no special action need be taken.
 921          */
 922         if (bp->b_flags & B_PFPROT) {
 923             iodone(bp);         /* Notify all users of the buffer that we're done */
 924             clrjmpx(&jmpbuf);
 925             continue;
 926         }
 927         if (DOvmlock)
 928             ObtainWriteLock(&vcp->pvmlock, 211);
 929         /*
 930          * First map its data area to a region in the current address space
 931          * by calling vm_att with the subspace identifier, and a pointer to
 932          * the data area.  vm_att returns  a new data area pointer, but we
 933          * also want to hang onto the old one.
 934          */
 935         tmpaddr = bp->b_baddr;
 936         bp->b_baddr = (caddr_t) vm_att(bp->b_xmemd.subspace_id, tmpaddr);
 937         tmperr = afs_ustrategy(bp);     /* temp variable saves offset calculation */
 938         if (tmperr) {           /* in non-error case */
 939             bp->b_flags |= B_ERROR;     /* should other flags remain set ??? */
 940             bp->b_error = tmperr;
 941         }
 942
 943         /* Unmap the buffer's data area by calling vm_det.  Reset data area
 944          * to the value that we saved above.
 945          */
 946         vm_det(bp->b_baddr);
 947         bp->b_baddr = tmpaddr;
 948
 949         /*
 950          * buffer may be linked with other buffers via the b_work field.
 951          * See also afs_gn_strategy.  For each buffer in the chain (including
 952          * bp) notify all users of the buffer that the daemon is finished
 953          * using it by calling iodone.
 954          * assumes iodone can modify the b_work field.
 955          */
 956         for (tbp1 = bp;;) {
 957             tbp2 = (struct buf *)tbp1->b_work;
 958             iodone(tbp1);
 959             if (!tbp2)
 960                 break;
 961
 962             tbp1 = (struct buf *)tbp2->b_work;
 963             iodone(tbp2);
 964             if (!tbp1)
 965                 break;
 966         }
 967         if (DOvmlock)
 968             ReleaseWriteLock(&vcp->pvmlock);    /* Unlock the vnode.  */
 969         clrjmpx(&jmpbuf);
 970     }                           /* infinite loop (unless we're interrupted) */
 971 }                               /* end of afs_BioDaemon() */
 972
 973 #endif /* AFS_AIX41_ENV */
 974
 975
 976 int afs_nbrs = 0;
 977 static_inline void
 978 afs_BackgroundDaemon_once(void)
 979 {
 980     LOCK_INIT(&afs_xbrs, "afs_xbrs");
 981     memset(afs_brs, 0, sizeof(afs_brs));
 982     brsInit = 1;
 983 #if defined (AFS_SGI_ENV) && defined(AFS_SGI_SHORTSTACK)
 984     /*
 985      * steal the first daemon for doing delayed DSlot flushing
 986      * (see afs_GetDownDSlot)
 987      */
 988     AFS_GUNLOCK();
 989     afs_sgidaemon();
 990     exit(CLD_EXITED, 0);
 991 #endif
 992 }
 993
 994 static_inline void
 995 brequest_release(struct brequest *tb)
 996 {
 997     if (tb->vc) {
 998         AFS_RELE(AFSTOV(tb->vc));       /* MUST call vnode layer or could lose vnodes */
 999         tb->vc = NULL;
1000     }
1001     if (tb->cred) {
1002         crfree(tb->cred);
1003         tb->cred = (afs_ucred_t *)0;
1004     }
1005     afs_BRelease(tb);  /* this grabs and releases afs_xbrs lock */
1006 }
1007
1008 #ifdef AFS_NEW_BKG
1009 int
1010 afs_BackgroundDaemon(struct afs_uspc_param *uspc, void *param1, void *param2)
1011 #else
1012 void
1013 afs_BackgroundDaemon(void)
1014 #endif
1015 {
1016     struct brequest *tb;
1017     int i, foundAny;
1018
1019     AFS_STATCNT(afs_BackgroundDaemon);
1020     /* initialize subsystem */
1021     if (brsInit == 0)
1022         /* Irix with "short stack" exits */
1023         afs_BackgroundDaemon_once();
1024
1025 #ifdef AFS_NEW_BKG
1026     /* If it's a re-entering syscall, complete the request and release */
1027     if (uspc->ts > -1) {
1028         tb = afs_brs;
1029         for (i = 0; i < NBRS; i++, tb++) {
1030             if (tb->ts == uspc->ts) {
1031                 /* copy the userspace status back in */
1032                 tb->code_raw = tb->code_checkcode = uspc->retval;
1033                 /* mark it valid and notify our caller */
1034                 tb->flags |= BUVALID;
1035                 if (tb->flags & BUWAIT) {
1036                     tb->flags &= ~BUWAIT;
1037                     afs_osi_Wakeup(tb);
1038                 }
1039                 brequest_release(tb);
1040                 break;
1041             }
1042         }
1043     } else {
1044         afs_osi_MaskUserLoop();
1045 #endif
1046         /* Otherwise it's a new one */
1047         afs_nbrs++;
1048 #ifdef AFS_NEW_BKG
1049     }
1050 #endif
1051
1052     ObtainWriteLock(&afs_xbrs, 302);
1053     while (1) {
1054         int min_ts = 0;
1055         struct brequest *min_tb = NULL;
1056
1057         if (afs_termState == AFSOP_STOP_BKG) {
1058             if (--afs_nbrs <= 0)
1059                 afs_termState = AFSOP_STOP_RXCALLBACK;
1060             ReleaseWriteLock(&afs_xbrs);
1061             afs_osi_Wakeup(&afs_termState);
1062 #ifdef AFS_NEW_BKG
1063             memset(uspc, 0, sizeof(*uspc));
1064             uspc->reqtype = AFS_USPC_SHUTDOWN;
1065             return 0;
1066 #else
1067             return;
1068 #endif
1069         }
1070
1071         /* find a request */
1072         tb = afs_brs;
1073         foundAny = 0;
1074         for (i = 0; i < NBRS; i++, tb++) {
1075             /* look for request with smallest ts */
1076             if ((tb->refCount > 0) && !(tb->flags & BSTARTED)) {
1077                 /* new request, not yet picked up */
1078                 if ((min_tb && (min_ts - tb->ts > 0)) || !min_tb) {
1079                     min_tb = tb;
1080                     min_ts = tb->ts;
1081                 }
1082             }
1083         }
1084         if ((tb = min_tb)) {
1085             /* claim and process this request */
1086             tb->flags |= BSTARTED;
1087             ReleaseWriteLock(&afs_xbrs);
1088             foundAny = 1;
1089             afs_Trace1(afs_iclSetp, CM_TRACE_BKG1, ICL_TYPE_INT32,
1090                        tb->opcode);
1091             if (tb->opcode == BOP_FETCH)
1092                 BPrefetch(tb);
1093 #if defined(AFS_CACHE_BYPASS)
1094             else if (tb->opcode == BOP_FETCH_NOCACHE)
1095                 BPrefetchNoCache(tb);
1096 #endif
1097             else if (tb->opcode == BOP_STORE)
1098                 BStore(tb);
1099             else if (tb->opcode == BOP_PATH)
1100                 BPath(tb);
1101 #ifdef AFS_DARWIN80_ENV
1102             else if (tb->opcode == BOP_MOVE) {
1103                 memcpy(uspc, (struct afs_uspc_param *) tb->ptr_parm[0],
1104                        sizeof(struct afs_uspc_param));
1105                 uspc->ts = tb->ts;
1106                 /* string lengths capped in move vop; copy NUL tho */
1107                 memcpy(param1, (char *)tb->ptr_parm[1],
1108                        strlen(tb->ptr_parm[1])+1);
1109                 memcpy(param2, (char *)tb->ptr_parm[2],
1110                        strlen(tb->ptr_parm[2])+1);
1111                 return 0;
1112             }
1113 #endif
1114             else if (tb->opcode == BOP_PARTIAL_STORE)
1115                 BPartialStore(tb);
1116             else if (tb->opcode == BOP_INVALIDATE_SEGMENTS)
1117                 BInvalidateSegments(tb);
1118             else
1119                 panic("background bop");
1120             brequest_release(tb);
1121             ObtainWriteLock(&afs_xbrs, 305);
1122         }
1123         if (!foundAny) {
1124             /* wait for new request */
1125             afs_brsDaemons++;
1126             ReleaseWriteLock(&afs_xbrs);
1127             afs_osi_Sleep(&afs_brsDaemons);
1128             ObtainWriteLock(&afs_xbrs, 307);
1129             afs_brsDaemons--;
1130         }
1131     }
1132 #ifdef AFS_NEW_BKG
1133     return -2;
1134 #endif
1135 }
1136
1137
1138 void
1139 shutdown_daemons(void)
1140 {
1141     AFS_STATCNT(shutdown_daemons);
1142     if (afs_cold_shutdown) {
1143         afs_brsDaemons = brsInit = 0;
1144         afs_nbrs = 0;
1145         memset(afs_brs, 0, sizeof(afs_brs));
1146         memset(&afs_xbrs, 0, sizeof(afs_lock_t));
1147         afs_brsWaiters = 0;
1148 #ifdef AFS_AIX41_ENV
1149         lock_free(&afs_asyncbuf_lock);
1150         unpin(&afs_asyncbuf, sizeof(struct buf *));
1151         unpin(&afs_asyncbuf_cv, sizeof(afs_int32));
1152         afs_initbiod = 0;
1153 #endif
1154     }
1155 }
1156
1157 #if defined(AFS_SGI_ENV) && defined(AFS_SGI_SHORTSTACK)
1158 /*
1159  * sgi - daemon - handles certain operations that otherwise
1160  * would use up too much kernel stack space
1161  *
1162  * This all assumes that since the caller must have the xdcache lock
1163  * exclusively that the list will never be more than one long
1164  * and noone else can attempt to add anything until we're done.
1165  */
1166 SV_TYPE afs_sgibksync;
1167 SV_TYPE afs_sgibkwait;
1168 lock_t afs_sgibklock;
1169 struct dcache *afs_sgibklist;
1170
1171 int
1172 afs_sgidaemon(void)
1173 {
1174     int s;
1175     struct dcache *tdc;
1176
1177     if (afs_sgibklock == NULL) {
1178         SV_INIT(&afs_sgibksync, "bksync", 0, 0);
1179         SV_INIT(&afs_sgibkwait, "bkwait", 0, 0);
1180         SPINLOCK_INIT(&afs_sgibklock, "bklock");
1181     }
1182     s = SPLOCK(afs_sgibklock);
1183     for (;;) {
1184         /* wait for something to do */
1185         SP_WAIT(afs_sgibklock, s, &afs_sgibksync, PINOD);
1186         osi_Assert(afs_sgibklist);
1187
1188         /* XX will probably need to generalize to real list someday */
1189         s = SPLOCK(afs_sgibklock);
1190         while (afs_sgibklist) {
1191             tdc = afs_sgibklist;
1192             afs_sgibklist = NULL;
1193             SPUNLOCK(afs_sgibklock, s);
1194             AFS_GLOCK();
1195             tdc->dflags &= ~DFEntryMod;
1196             osi_Assert(afs_WriteDCache(tdc, 1) == 0);
1197             AFS_GUNLOCK();
1198             s = SPLOCK(afs_sgibklock);
1199         }
1200
1201         /* done all the work - wake everyone up */
1202         while (SV_SIGNAL(&afs_sgibkwait));
1203     }
1204 }
1205 #endif