src/afs/afs_fetchstore.c

   1 /*
   2  * Copyright 2000, International Business Machines Corporation and others.
   3  * All Rights Reserved.
   4  *
   5  * This software has been released under the terms of the IBM Public
   6  * License.  For details, see the LICENSE file in the top-level source
   7  * directory or online at http://www.openafs.org/dl/license10.html
   8  */
   9
  10 #include <afsconfig.h>
  11 #include "afs/param.h"
  12
  13 #include "afs/sysincludes.h"    /* Standard vendor system headers */
  14 #ifndef AFS_LINUX22_ENV
  15 #include "rpc/types.h"
  16 #endif
  17 #ifdef  AFS_ALPHA_ENV
  18 #undef kmem_alloc
  19 #undef kmem_free
  20 #undef mem_alloc
  21 #undef mem_free
  22 #undef register
  23 #endif /* AFS_ALPHA_ENV */
  24 #include "afsincludes.h"        /* Afs-based standard headers */
  25 #include "afs/afs_stats.h"      /* statistics */
  26 #include "afs_prototypes.h"
  27
  28 extern int cacheDiskType;
  29
  30
  31 #ifndef AFS_NOSTATS
  32 void
  33 FillStoreStats(int code, int idx, osi_timeval_t *xferStartTime,
  34                   afs_size_t bytesToXfer, afs_size_t bytesXferred)
  35 {
  36     struct afs_stats_xferData *xferP;
  37     osi_timeval_t xferStopTime;
  38     XSTATS_DECLS;
  39
  40     xferP = &(afs_stats_cmfullperf.rpc.fsXferTimes[idx]);
  41     osi_GetuTime(&xferStopTime);
  42     (xferP->numXfers)++;
  43     if (!code) {
  44         (xferP->numSuccesses)++;
  45         afs_stats_XferSumBytes[idx] += bytesXferred;
  46         (xferP->sumBytes) += (afs_stats_XferSumBytes[idx] >> 10);
  47         afs_stats_XferSumBytes[idx] &= 0x3FF;
  48         if (bytesXferred < xferP->minBytes)
  49             xferP->minBytes = bytesXferred;
  50         if (bytesXferred > xferP->maxBytes)
  51             xferP->maxBytes = bytesXferred;
  52
  53         /*
  54          * Tally the size of the object.  Note: we tally the actual size,
  55          * NOT the number of bytes that made it out over the wire.
  56          */
  57         if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET0) (xferP->count[0])++;
  58         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET1) (xferP->count[1])++;
  59         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET2) (xferP->count[2])++;
  60         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET3) (xferP->count[3])++;
  61         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET4) (xferP->count[4])++;
  62         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET5) (xferP->count[5])++;
  63         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET6) (xferP->count[6])++;
  64         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET7) (xferP->count[7])++;
  65         else
  66             (xferP->count[8])++;
  67
  68         afs_stats_GetDiff(elapsedTime, (*xferStartTime), xferStopTime);
  69         afs_stats_AddTo((xferP->sumTime), elapsedTime);
  70         afs_stats_SquareAddTo((xferP->sqrTime), elapsedTime);
  71         if (afs_stats_TimeLessThan(elapsedTime, (xferP->minTime))) {
  72             afs_stats_TimeAssign((xferP->minTime), elapsedTime);
  73         }
  74         if (afs_stats_TimeGreaterThan(elapsedTime, (xferP->maxTime))) {
  75             afs_stats_TimeAssign((xferP->maxTime), elapsedTime);
  76         }
  77     }
  78 }
  79 #endif /* AFS_NOSTATS */
  80
  81 /* rock and operations for RX_FILESERVER */
  82
  83 struct rxfs_storeVariables {
  84     struct rx_call *call;
  85     char *tbuffer;
  86     struct iovec *tiov;
  87     afs_uint32 tnio;
  88     afs_int32 hasNo64bit;
  89     struct AFSStoreStatus InStatus;
  90 };
  91
  92 afs_int32
  93 rxfs_storeUfsPrepare(void *r, afs_uint32 size, afs_uint32 *tlen)
  94 {
  95     *tlen = (size > AFS_LRALLOCSIZ ?  AFS_LRALLOCSIZ : size);
  96     return 0;
  97 }
  98
  99 afs_int32
 100 rxfs_storeMemPrepare(void *r, afs_uint32 size, afs_uint32 *tlen)
 101 {
 102     afs_int32 code;
 103     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *) r;
 104
 105     *tlen = (size > AFS_LRALLOCSIZ ?  AFS_LRALLOCSIZ : size);
 106     RX_AFS_GUNLOCK();
 107     code = rx_WritevAlloc(v->call, v->tiov, &v->tnio, RX_MAXIOVECS, *tlen);
 108     RX_AFS_GLOCK();
 109     if (code <= 0) {
 110         code = rx_Error(v->call);
 111         if (!code)
 112             code = -33;
 113     }
 114     else {
 115         *tlen = code;
 116         code = 0;
 117     }
 118     return code;
 119 }
 120
 121 afs_int32
 122 rxfs_storeUfsRead(void *r, struct osi_file *tfile, afs_uint32 offset,
 123                   afs_uint32 tlen, afs_uint32 *bytesread)
 124 {
 125     afs_int32 code;
 126     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
 127
 128     *bytesread = 0;
 129     code = afs_osi_Read(tfile, -1, v->tbuffer, tlen);
 130     if (code < 0)
 131         return EIO;
 132     *bytesread = code;
 133     if (code == tlen)
 134         return 0;
 135 #if defined(KERNEL_HAVE_UERROR)
 136     if (getuerror())
 137         return EIO;
 138 #endif
 139     return 0;
 140 }
 141
 142 afs_int32
 143 rxfs_storeMemRead(void *r, struct osi_file *tfile, afs_uint32 offset,
 144                   afs_uint32 tlen, afs_uint32 *bytesread)
 145 {
 146     afs_int32 code;
 147     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
 148     struct memCacheEntry *mceP = (struct memCacheEntry *)tfile;
 149
 150     *bytesread = 0;
 151     code = afs_MemReadvBlk(mceP, offset, v->tiov, v->tnio, tlen);
 152     if (code != tlen)
 153         return -33;
 154     *bytesread = code;
 155     return 0;
 156 }
 157
 158 afs_int32
 159 rxfs_storeMemWrite(void *r, afs_uint32 l, afs_uint32 *byteswritten)
 160 {
 161     afs_int32 code;
 162     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
 163
 164     RX_AFS_GUNLOCK();
 165     code = rx_Writev(v->call, v->tiov, v->tnio, l);
 166     RX_AFS_GLOCK();
 167     if (code != l) {
 168         code = rx_Error(v->call);
 169         return (code ? code : -33);
 170     }
 171     *byteswritten = code;
 172     return 0;
 173 }
 174
 175 afs_int32
 176 rxfs_storeUfsWrite(void *r, afs_uint32 l, afs_uint32 *byteswritten)
 177 {
 178     afs_int32 code;
 179     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
 180
 181     RX_AFS_GUNLOCK();
 182     code = rx_Write(v->call, v->tbuffer, l);
 183         /* writing 0 bytes will
 184          * push a short packet.  Is that really what we want, just because the
 185          * data didn't come back from the disk yet?  Let's try it and see. */
 186     RX_AFS_GLOCK();
 187     if (code != l) {
 188         code = rx_Error(v->call);
 189         return (code ? code : -33);
 190     }
 191     *byteswritten = code;
 192     return 0;
 193 }
 194
 195 afs_int32
 196 rxfs_storePadd(void *rock, afs_uint32 size)
 197 {
 198     afs_int32 code = 0;
 199     afs_uint32 tlen;
 200     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)rock;
 201
 202     if (!v->tbuffer)
 203         v->tbuffer = osi_AllocLargeSpace(AFS_LRALLOCSIZ);
 204     memset(v->tbuffer, 0, AFS_LRALLOCSIZ);
 205
 206     while (size) {
 207         tlen = (size > AFS_LRALLOCSIZ ? AFS_LRALLOCSIZ : size);
 208         RX_AFS_GUNLOCK();
 209         code = rx_Write(v->call, v->tbuffer, tlen);
 210         RX_AFS_GLOCK();
 211
 212         if (code != tlen)
 213             return -33; /* XXX */
 214         size -= tlen;
 215     }
 216     return code;
 217 }
 218
 219 afs_int32
 220 rxfs_storeStatus(void *rock)
 221 {
 222     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)rock;
 223
 224     if (rx_GetRemoteStatus(v->call) & 1)
 225         return 0;
 226     return 1;
 227 }
 228
 229 afs_int32
 230 rxfs_storeClose(void *r, struct AFSFetchStatus *OutStatus, int *doProcessFS)
 231 {
 232     afs_int32 code;
 233     struct AFSVolSync tsync;
 234     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
 235
 236     if (!v->call)
 237         return -1;
 238     RX_AFS_GUNLOCK();
 239 #ifdef AFS_64BIT_CLIENT
 240     if (!v->hasNo64bit)
 241         code = EndRXAFS_StoreData64(v->call, OutStatus, &tsync);
 242     else
 243 #endif
 244         code = EndRXAFS_StoreData(v->call, OutStatus, &tsync);
 245     RX_AFS_GLOCK();
 246     if (!code)
 247         *doProcessFS = 1;       /* Flag to run afs_ProcessFS() later on */
 248
 249     return code;
 250 }
 251
 252 afs_int32
 253 rxfs_storeDestroy(void **r, afs_int32 error)
 254 {
 255     afs_int32 code = error;
 256     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)*r;
 257
 258     *r = NULL;
 259     if (v->call) {
 260         RX_AFS_GUNLOCK();
 261         code = rx_EndCall(v->call, error);
 262         RX_AFS_GLOCK();
 263         if (!code && error)
 264             code = error;
 265     }
 266     if (v->tbuffer)
 267         osi_FreeLargeSpace(v->tbuffer);
 268     if (v->tiov)
 269         osi_FreeSmallSpace(v->tiov);
 270     osi_FreeSmallSpace(v);
 271     return code;
 272 }
 273
 274 static
 275 struct storeOps rxfs_storeUfsOps = {
 276     rxfs_storeUfsPrepare,
 277     rxfs_storeUfsRead,
 278     rxfs_storeUfsWrite,
 279     rxfs_storeStatus,
 280     rxfs_storePadd,
 281     rxfs_storeClose,
 282     rxfs_storeDestroy
 283 };
 284
 285 static
 286 struct storeOps rxfs_storeMemOps = {
 287     rxfs_storeMemPrepare,
 288     rxfs_storeMemRead,
 289     rxfs_storeMemWrite,
 290     rxfs_storeStatus,
 291     rxfs_storePadd,
 292     rxfs_storeClose,
 293     rxfs_storeDestroy
 294 };
 295
 296 afs_int32
 297 rxfs_storeInit(struct vcache *avc, struct afs_conn *tc, afs_size_t base,
 298                 afs_size_t bytes, afs_size_t length,
 299                 int sync, struct storeOps **ops, void **rock)
 300 {
 301     afs_int32 code;
 302     struct rxfs_storeVariables *v;
 303
 304     if ( !tc )
 305         return -1;
 306
 307     v = (struct rxfs_storeVariables *) osi_AllocSmallSpace(sizeof(struct rxfs_storeVariables));
 308     if (!v)
 309         osi_Panic("rxfs_storeInit: osi_AllocSmallSpace returned NULL\n");
 310     memset(v, 0, sizeof(struct rxfs_storeVariables));
 311
 312     v->InStatus.ClientModTime = avc->f.m.Date;
 313     v->InStatus.Mask = AFS_SETMODTIME;
 314     if (sync & AFS_SYNC)
 315         v->InStatus.Mask |= AFS_FSYNC;
 316     RX_AFS_GUNLOCK();
 317     v->call = rx_NewCall(tc->id);
 318     if (v->call) {
 319 #ifdef AFS_64BIT_CLIENT
 320         if (!afs_serverHasNo64Bit(tc))
 321             code = StartRXAFS_StoreData64(
 322                                 v->call, (struct AFSFid*)&avc->f.fid.Fid,
 323                                 &v->InStatus, base, bytes, length);
 324         else
 325             if (length > 0xFFFFFFFF)
 326                 code = EFBIG;
 327             else {
 328                 afs_int32 t1 = base, t2 = bytes, t3 = length;
 329                 code = StartRXAFS_StoreData(v->call,
 330                                         (struct AFSFid *) &avc->f.fid.Fid,
 331                                          &v->InStatus, t1, t2, t3);
 332             }
 333 #else /* AFS_64BIT_CLIENT */
 334         code = StartRXAFS_StoreData(v->call, (struct AFSFid *)&avc->f.fid.Fid,
 335                                     &v->InStatus, base, bytes, length);
 336 #endif /* AFS_64BIT_CLIENT */
 337     } else
 338         code = -1;
 339     RX_AFS_GLOCK();
 340     if (code) {
 341         osi_FreeSmallSpace(v);
 342         return code;
 343     }
 344     if (cacheDiskType == AFS_FCACHE_TYPE_UFS) {
 345         v->tbuffer = osi_AllocLargeSpace(AFS_LRALLOCSIZ);
 346         if (!v->tbuffer)
 347             osi_Panic
 348             ("rxfs_storeInit: osi_AllocLargeSpace for iovecs returned NULL\n");
 349         *ops = (struct storeOps *) &rxfs_storeUfsOps;
 350     } else {
 351         v->tiov = osi_AllocSmallSpace(sizeof(struct iovec) * RX_MAXIOVECS);
 352         if (!v->tiov)
 353             osi_Panic
 354             ("rxfs_storeInit: osi_AllocSmallSpace for iovecs returned NULL\n");
 355         *ops = (struct storeOps *) &rxfs_storeMemOps;
 356 #ifdef notdef
 357         /* do this at a higher level now -- it's a parameter */
 358         /* for now, only do 'continue from close' code if file fits in one
 359          * chunk.  Could clearly do better: if only one modified chunk
 360          * then can still do this.  can do this on *last* modified chunk */
 361         length = avc->f.m.Length - 1; /* byte position of last byte we'll store */
 362         if (shouldWake) {
 363             if (AFS_CHUNK(length) != 0)
 364                 *shouldWake = 0;
 365             else
 366                 *shouldWake = 1;
 367         }
 368 #endif /* notdef */
 369     }
 370
 371     *rock = (void *)v;
 372     return 0;
 373 }
 374
 375 unsigned int storeallmissing = 0;
 376 /*!
 377  *      Called for each chunk upon store.
 378  *
 379  * \param avc Ptr to the vcache entry of the file being stored.
 380  * \param dclist pointer to the list of dcaches
 381  * \param bytes total number of bytes for the current operation
 382  * \param anewDV Ptr to the dataversion after store
 383  * \param doProcessFS pointer to the "do process FetchStatus" flag
 384  * \param OutStatus pointer to the FetchStatus as returned by the fileserver
 385  * \param nchunks number of dcaches to consider
 386  * \param nomore copy of the "no more data" flag
 387  * \param ops pointer to the block of storeOps to be used for this operation
 388  * \param rock pointer to the opaque protocol-specific data of this operation
 389  */
 390 afs_int32
 391 afs_CacheStoreDCaches(struct vcache *avc, struct dcache **dclist,
 392                         afs_size_t bytes,
 393                         afs_hyper_t *anewDV,
 394                         int *doProcessFS,
 395                         struct AFSFetchStatus *OutStatus,
 396                         afs_uint32 nchunks,
 397                         int nomore,
 398                         struct storeOps *ops, void *rock)
 399 {
 400     int *shouldwake = NULL;
 401     unsigned int i;
 402     afs_int32 code = 0;
 403
 404 #ifndef AFS_NOSTATS
 405     osi_timeval_t xferStartTime;        /*FS xfer start time */
 406     afs_size_t bytesToXfer = 10000;     /* # bytes to xfer */
 407     afs_size_t bytesXferred = 10000;    /* # bytes actually xferred */
 408 #endif /* AFS_NOSTATS */
 409     XSTATS_DECLS;
 410
 411     for (i = 0; i < nchunks && !code; i++) {
 412         int stored = 0;
 413         struct osi_file *tfile;
 414         int offset = 0;
 415         struct dcache *tdc = dclist[i];
 416         afs_int32 size = tdc->f.chunkBytes;
 417         if (!tdc) {
 418             afs_warn("afs: missing dcache!\n");
 419             storeallmissing++;
 420             continue;   /* panic? */
 421         }
 422         afs_Trace4(afs_iclSetp, CM_TRACE_STOREALL2, ICL_TYPE_POINTER, avc,
 423                     ICL_TYPE_INT32, tdc->f.chunk, ICL_TYPE_INT32, tdc->index,
 424                     ICL_TYPE_INT32, afs_inode2trace(&tdc->f.inode));
 425         shouldwake = 0;
 426         if (nomore) {
 427             if (avc->asynchrony == -1) {
 428                 if (afs_defaultAsynchrony > (bytes - stored))
 429                     shouldwake = &nomore;
 430             }
 431             else if ((afs_uint32) avc->asynchrony >= (bytes - stored))
 432                 shouldwake = &nomore;
 433         }
 434         tfile = afs_CFileOpen(&tdc->f.inode);
 435
 436         afs_Trace4(afs_iclSetp, CM_TRACE_STOREPROC, ICL_TYPE_POINTER, avc,
 437                     ICL_TYPE_FID, &(avc->f.fid), ICL_TYPE_OFFSET,
 438                     ICL_HANDLE_OFFSET(avc->f.m.Length), ICL_TYPE_INT32, size);
 439
 440         AFS_STATCNT(CacheStoreProc);
 441
 442         XSTATS_START_TIME(AFS_STATS_FS_RPCIDX_STOREDATA);
 443         avc->f.truncPos = AFS_NOTRUNC;
 444 #ifndef AFS_NOSTATS
 445         /*
 446          * In this case, size is *always* the amount of data we'll be trying
 447          * to ship here.
 448          */
 449         bytesToXfer = size;
 450         bytesXferred = 0;
 451
 452         osi_GetuTime(&xferStartTime);
 453 #endif /* AFS_NOSTATS */
 454
 455         while ( size > 0 ) {
 456             afs_uint32 tlen;
 457             afs_int32 bytesread, byteswritten;
 458             code = (*ops->prepare)(rock, size, &tlen);
 459             if ( code )
 460                 break;
 461
 462             code = (*ops->read)(rock, tfile, offset, tlen, &bytesread);
 463             if (code)
 464                 break;
 465
 466             tlen = bytesread;
 467             code = (*ops->write)(rock, tlen, &byteswritten);
 468             if (code)
 469                 break;
 470 #ifndef AFS_NOSTATS
 471             bytesXferred += byteswritten;
 472 #endif /* AFS_NOSTATS */
 473
 474             offset += tlen;
 475             size -= tlen;
 476             /*
 477              * if file has been locked on server, can allow
 478              * store to continue
 479              */
 480             if (shouldwake && *shouldwake && ((*ops->status)(rock) == 0)) {
 481                 *shouldwake = 0;        /* only do this once */
 482                 afs_wakeup(avc);
 483             }
 484         }
 485         afs_Trace4(afs_iclSetp, CM_TRACE_STOREPROC, ICL_TYPE_POINTER, avc,
 486                     ICL_TYPE_FID, &(avc->f.fid), ICL_TYPE_OFFSET,
 487                     ICL_HANDLE_OFFSET(avc->f.m.Length), ICL_TYPE_INT32, size);
 488
 489 #ifndef AFS_NOSTATS
 490         FillStoreStats(code, AFS_STATS_FS_XFERIDX_STOREDATA,
 491                     &xferStartTime, bytesToXfer, bytesXferred);
 492 #endif /* AFS_NOSTATS */
 493
 494         afs_CFileClose(tfile);
 495         if ((tdc->f.chunkBytes < afs_OtherCSize)
 496                 && (i < (nchunks - 1)) && code == 0) {
 497             int bsent, tlen, sbytes = afs_OtherCSize - tdc->f.chunkBytes;
 498             char *tbuffer = osi_AllocLargeSpace(AFS_LRALLOCSIZ);
 499
 500             while (sbytes > 0) {
 501                 tlen = (sbytes > AFS_LRALLOCSIZ ? AFS_LRALLOCSIZ : sbytes);
 502                 memset(tbuffer, 0, tlen);
 503                 RX_AFS_GUNLOCK();
 504                 bsent = rx_Write(
 505                         ((struct rxfs_storeVariables*)rock)->call, tbuffer, tlen);
 506                 RX_AFS_GLOCK();
 507
 508                 if (bsent != tlen) {
 509                     code = -33; /* XXX */
 510                     break;
 511                 }
 512                 sbytes -= tlen;
 513             }
 514             osi_FreeLargeSpace(tbuffer);
 515         }
 516         stored += tdc->f.chunkBytes;
 517         /* ideally, I'd like to unlock the dcache and turn
 518          * off the writing bit here, but that would
 519          * require being able to retry StoreAllSegments in
 520          * the event of a failure. It only really matters
 521          * if user can't read from a 'locked' dcache or
 522          * one which has the writing bit turned on. */
 523     }
 524
 525     if (!code) {
 526         code = (*ops->close)(rock, OutStatus, doProcessFS);
 527         if (*doProcessFS) {
 528             hadd32(*anewDV, 1);
 529         }
 530         XSTATS_END_TIME;
 531     }
 532     code = (*ops->destroy)(&rock, code);
 533     return code;
 534 }
 535
 536 #define lmin(a,b) (((a) < (b)) ? (a) : (b))
 537 /*!
 538  *      Called upon store.
 539  *
 540  * \param dclist pointer to the list of dcaches
 541  * \param avc Ptr to the vcache entry.
 542  * \param areq Ptr to the request structure
 543  * \param sync sync flag
 544  * \param minj the chunk offset for this call
 545  * \param high index of last dcache to store
 546  * \param moredata the moredata flag
 547  * \param anewDV Ptr to the dataversion after store
 548  * \param amaxStoredLength Ptr to the amount of that is actually stored
 549  *
 550  * \note Environment: Nothing interesting.
 551  */
 552 int
 553 afs_CacheStoreVCache(struct dcache **dcList, struct vcache *avc,
 554                         struct vrequest *areq, int sync,
 555                         unsigned int minj, unsigned int high,
 556                         unsigned int moredata,
 557                         afs_hyper_t *anewDV, afs_size_t *amaxStoredLength)
 558 {
 559     afs_int32 code = 0;
 560     struct storeOps *ops;
 561     void * rock = NULL;
 562     unsigned int i, j;
 563
 564     struct AFSFetchStatus OutStatus;
 565     int doProcessFS = 0;
 566     afs_size_t base, bytes, length;
 567     int nomore;
 568     unsigned int first = 0;
 569     struct afs_conn *tc;
 570
 571     for (bytes = 0, j = 0; !code && j <= high; j++) {
 572         if (dcList[j]) {
 573             ObtainSharedLock(&(dcList[j]->lock), 629);
 574             if (!bytes)
 575                 first = j;
 576             bytes += dcList[j]->f.chunkBytes;
 577             if ((dcList[j]->f.chunkBytes < afs_OtherCSize)
 578                         && (dcList[j]->f.chunk - minj < high)
 579                         && dcList[j + 1]) {
 580                 int sbytes = afs_OtherCSize - dcList[j]->f.chunkBytes;
 581                 bytes += sbytes;
 582             }
 583         }
 584         if (bytes && (j == high || !dcList[j + 1])) {
 585             afs_uint32 nchunks;
 586             struct dcache **dclist = &dcList[first];
 587             /* base = AFS_CHUNKTOBASE(dcList[first]->f.chunk); */
 588             base = AFS_CHUNKTOBASE(first + minj);
 589             /*
 590              *
 591              * take a list of dcache structs and send them all off to the server
 592              * the list must be in order, and the chunks contiguous.
 593              * Note - there is no locking done by this code currently.  For
 594              * safety's sake, xdcache could be locked over the entire call.
 595              * However, that pretty well ties up all the threads.  Meantime, all
 596              * the chunks _MUST_ have their refcounts bumped.
 597              * The writes done before a store back will clear setuid-ness
 598              * in cache file.
 599              * We can permit CacheStoreProc to wake up the user process IFF we
 600              * are doing the last RPC for this close, ie, storing back the last
 601              * set of contiguous chunks of a file.
 602              */
 603
 604             nchunks = 1 + j - first;
 605             nomore = !(moredata || (j != high));
 606             length = lmin(avc->f.m.Length, avc->f.truncPos);
 607             afs_Trace4(afs_iclSetp, CM_TRACE_STOREDATA64,
 608                        ICL_TYPE_FID, &avc->f.fid.Fid, ICL_TYPE_OFFSET,
 609                        ICL_HANDLE_OFFSET(base), ICL_TYPE_OFFSET,
 610                        ICL_HANDLE_OFFSET(bytes), ICL_TYPE_OFFSET,
 611                        ICL_HANDLE_OFFSET(length));
 612             tc = afs_Conn(&avc->f.fid, areq, 0);
 613
 614             do {
 615 #ifdef AFS_64BIT_CLIENT
 616               restart:
 617 #endif
 618                 code = rxfs_storeInit(avc, tc, base, bytes, length,
 619                                         sync, &ops, &rock);
 620                 if ( code )
 621                     goto nocall;
 622
 623                 code = afs_CacheStoreDCaches(avc, dclist, bytes, anewDV,
 624                         &doProcessFS, &OutStatus, nchunks, nomore, ops, rock);
 625
 626 nocall:
 627 #ifdef AFS_64BIT_CLIENT
 628                 if (code == RXGEN_OPCODE && !afs_serverHasNo64Bit(tc)) {
 629                     afs_serverSetNo64Bit(tc);
 630                     goto restart;
 631                 }
 632 #else
 633                 continue;       /* dummy, label before block end won't work */
 634 #endif /* AFS_64BIT_CLIENT */
 635             } while (afs_Analyze
 636                      (tc, code, &avc->f.fid, areq,
 637                       AFS_STATS_FS_RPCIDX_STOREDATA, SHARED_LOCK,
 638                       NULL));
 639
 640             /* put back all remaining locked dcache entries */
 641             for (i = 0; i < nchunks; i++) {
 642                 struct dcache *tdc = dclist[i];
 643                 if (!code) {
 644                     if (afs_indexFlags[tdc->index] & IFDataMod) {
 645                         /*
 646                          * LOCKXXX -- should hold afs_xdcache(W) when
 647                          * modifying afs_indexFlags.
 648                          */
 649                         afs_indexFlags[tdc->index] &= ~IFDataMod;
 650                         afs_stats_cmperf.cacheCurrDirtyChunks--;
 651                         afs_indexFlags[tdc->index] &= ~IFDirtyPages;
 652                         if (sync & AFS_VMSYNC_INVAL) {
 653                             /* since we have invalidated all the pages of this
 654                              ** vnode by calling osi_VM_TryToSmush, we can
 655                              ** safely mark this dcache entry as not having
 656                              ** any pages. This vnode now becomes eligible for
 657                              ** reclamation by getDownD.
 658                              */
 659                             afs_indexFlags[tdc->index] &= ~IFAnyPages;
 660                         }
 661                     }
 662                 }
 663                 UpgradeSToWLock(&tdc->lock, 628);
 664                 tdc->f.states &= ~DWriting;     /* correct? */
 665                 tdc->dflags |= DFEntryMod;
 666                 ReleaseWriteLock(&tdc->lock);
 667                 afs_PutDCache(tdc);
 668                 /* Mark the entry as released */
 669                 dclist[i] = NULL;
 670             }
 671
 672             if (doProcessFS) {
 673                 /* Now copy out return params */
 674                 UpgradeSToWLock(&avc->lock, 28);        /* keep out others for a while */
 675                 afs_ProcessFS(avc, &OutStatus, areq);
 676                 /* Keep last (max) size of file on server to see if
 677                  * we need to call afs_StoreMini to extend the file.
 678                  */
 679                 if (!moredata)
 680                     *amaxStoredLength = OutStatus.Length;
 681                 ConvertWToSLock(&avc->lock);
 682                 doProcessFS = 0;
 683             }
 684
 685             if (code) {
 686                 for (j++; j <= high; j++) {
 687                     if (dcList[j]) {
 688                         ReleaseSharedLock(&(dcList[j]->lock));
 689                         afs_PutDCache(dcList[j]);
 690                         /* Releasing entry */
 691                         dcList[j] = NULL;
 692                     }
 693                 }
 694             }
 695
 696             afs_Trace2(afs_iclSetp, CM_TRACE_STOREALLDCDONE,
 697                        ICL_TYPE_POINTER, avc, ICL_TYPE_INT32, code);
 698             bytes = 0;
 699         }
 700     }
 701
 702     return code;
 703 }
 704
 705 /* rock and operations for RX_FILESERVER */
 706
 707 struct rxfs_fetchVariables {
 708     struct rx_call *call;
 709     char *tbuffer;
 710     struct iovec *iov;
 711     afs_uint32 nio;
 712     afs_int32 hasNo64bit;
 713     afs_int32 iovno;
 714     afs_int32 iovmax;
 715 };
 716
 717 afs_int32
 718 rxfs_fetchUfsRead(void *r, afs_uint32 size, afs_uint32 *bytesread)
 719 {
 720     afs_int32 code;
 721     afs_uint32 tlen;
 722     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
 723
 724     *bytesread = 0;
 725     tlen = (size > AFS_LRALLOCSIZ ?  AFS_LRALLOCSIZ : size);
 726     RX_AFS_GUNLOCK();
 727     code = rx_Read(v->call, v->tbuffer, tlen);
 728     RX_AFS_GLOCK();
 729     if (code <= 0)
 730         return -34;
 731     *bytesread = code;
 732     return 0;
 733 }
 734
 735 afs_int32
 736 rxfs_fetchMemRead(void *r, afs_uint32 tlen, afs_uint32 *bytesread)
 737 {
 738     afs_int32 code;
 739     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
 740
 741     *bytesread = 0;
 742     RX_AFS_GUNLOCK();
 743     code = rx_Readv(v->call, v->iov, &v->nio, RX_MAXIOVECS, tlen);
 744     RX_AFS_GLOCK();
 745     if (code <= 0)
 746         return -34;
 747     *bytesread = code;
 748     return 0;
 749 }
 750
 751
 752 afs_int32
 753 rxfs_fetchMemWrite(void *r, struct osi_file *fP,
 754                         afs_uint32 offset, afs_uint32 tlen,
 755                         afs_uint32 *byteswritten)
 756 {
 757     afs_int32 code;
 758     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
 759     struct memCacheEntry *mceP = (struct memCacheEntry *)fP;
 760
 761     code = afs_MemWritevBlk(mceP, offset, v->iov, v->nio, tlen);
 762     if (code != tlen) {
 763         return EIO;
 764     }
 765     *byteswritten = code;
 766     return 0;
 767 }
 768
 769 afs_int32
 770 rxfs_fetchUfsWrite(void *r, struct osi_file *fP,
 771                         afs_uint32 offset, afs_uint32 tlen,
 772                         afs_uint32 *byteswritten)
 773 {
 774     afs_int32 code;
 775     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
 776
 777     code = afs_osi_Write(fP, -1, v->tbuffer, tlen);
 778     if (code != tlen) {
 779         return EIO;
 780     }
 781     *byteswritten = code;
 782     return 0;
 783 }
 784
 785
 786 afs_int32
 787 rxfs_fetchClose(void *r, struct vcache *avc, struct dcache * adc,
 788                                         struct afs_FetchOutput *o)
 789 {
 790     afs_int32 code, code1 = 0;
 791     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
 792
 793     if (!v->call)
 794         return -1;
 795
 796     RX_AFS_GUNLOCK();
 797 #ifdef AFS_64BIT_CLIENT
 798     if (!v->hasNo64bit)
 799         code = EndRXAFS_FetchData64(v->call, &o->OutStatus, &o->CallBack,
 800                                 &o->tsync);
 801     else
 802 #endif
 803         code = EndRXAFS_FetchData(v->call, &o->OutStatus, &o->CallBack,
 804                                 &o->tsync);
 805     code1 = rx_EndCall(v->call, code);
 806     RX_AFS_GLOCK();
 807     if (!code && code1)
 808         code = code1;
 809
 810     v->call = NULL;
 811
 812     return code;
 813 }
 814
 815 afs_int32
 816 rxfs_fetchDestroy(void **r, afs_int32 error)
 817 {
 818     afs_int32 code = error;
 819     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)*r;
 820
 821     *r = NULL;
 822     if (v->call) {
 823         RX_AFS_GUNLOCK();
 824         code = rx_EndCall(v->call, error);
 825         RX_AFS_GLOCK();
 826         if (error)
 827             code = error;
 828     }
 829     if (v->tbuffer)
 830         osi_FreeLargeSpace(v->tbuffer);
 831     if (v->iov)
 832         osi_FreeSmallSpace(v->iov);
 833     osi_FreeSmallSpace(v);
 834     return code;
 835 }
 836
 837 afs_int32
 838 rxfs_fetchMore(void *r, afs_uint32 *length, afs_uint32 *moredata)
 839 {
 840     afs_int32 code;
 841     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
 842
 843     /*
 844      * The fetch protocol is extended for the AFS/DFS translator
 845      * to allow multiple blocks of data, each with its own length,
 846      * to be returned. As long as the top bit is set, there are more
 847      * blocks expected.
 848      *
 849      * We do not do this for AFS file servers because they sometimes
 850      * return large negative numbers as the transfer size.
 851      */
 852     RX_AFS_GUNLOCK();
 853     code = rx_Read(v->call, (void *)length, sizeof(afs_int32));
 854     RX_AFS_GLOCK();
 855     *length = ntohl(*length);
 856     if (code != sizeof(afs_int32)) {
 857         code = rx_Error(v->call);
 858         *moredata = 0;
 859         return (code ? code : -1);      /* try to return code, not -1 */
 860     }
 861     *moredata = *length & 0x80000000;
 862     *length &= ~0x80000000;
 863     return 0;
 864 }
 865
 866 static
 867 struct fetchOps rxfs_fetchUfsOps = {
 868     rxfs_fetchMore,
 869     rxfs_fetchUfsRead,
 870     rxfs_fetchUfsWrite,
 871     rxfs_fetchClose,
 872     rxfs_fetchDestroy
 873 };
 874
 875 static
 876 struct fetchOps rxfs_fetchMemOps = {
 877     rxfs_fetchMore,
 878     rxfs_fetchMemRead,
 879     rxfs_fetchMemWrite,
 880     rxfs_fetchClose,
 881     rxfs_fetchDestroy
 882 };
 883
 884 afs_int32
 885 rxfs_fetchInit(struct afs_conn *tc, struct vcache *avc, afs_offs_t base,
 886                 afs_uint32 size, afs_uint32 *alength, afs_uint32 *moredata,
 887                 struct dcache *adc,
 888                 struct osi_file *fP, struct fetchOps **ops, void **rock)
 889 {
 890     struct rxfs_fetchVariables *v;
 891     int code = 0, code1;
 892     afs_uint32 length_hi = 0, length, bytes;
 893
 894     v = (struct rxfs_fetchVariables *) osi_AllocSmallSpace(sizeof(struct rxfs_fetchVariables));
 895     if (!v)
 896         osi_Panic("rxfs_fetchInit: osi_AllocSmallSpace returned NULL\n");
 897     memset(v, 0, sizeof(struct rxfs_fetchVariables));
 898
 899     RX_AFS_GUNLOCK();
 900     v->call = rx_NewCall(tc->id);
 901     RX_AFS_GLOCK();
 902     if (v->call) {
 903 #ifdef AFS_64BIT_CLIENT
 904         afs_size_t length64;     /* as returned from server */
 905         if (!afs_serverHasNo64Bit(tc)) {
 906             afs_uint64 llbytes = size;
 907             RX_AFS_GUNLOCK();
 908             code = StartRXAFS_FetchData64(v->call, (struct AFSFid *) &avc->f.fid.Fid,
 909                                                base, llbytes);
 910             if (code != 0) {
 911                 RX_AFS_GLOCK();
 912                 afs_Trace2(afs_iclSetp, CM_TRACE_FETCH64CODE,
 913                                ICL_TYPE_POINTER, avc, ICL_TYPE_INT32, code);
 914             } else {
 915                 bytes = rx_Read(v->call, (char *)&length_hi, sizeof(afs_int32));
 916                 RX_AFS_GLOCK();
 917                 if (bytes == sizeof(afs_int32)) {
 918                     length_hi = ntohl(length_hi);
 919                 } else {
 920                     code = rx_Error(v->call);
 921                     RX_AFS_GUNLOCK();
 922                     code1 = rx_EndCall(v->call, code);
 923                     RX_AFS_GLOCK();
 924                     v->call = NULL;
 925                 }
 926             }
 927         }
 928         if (code == RXGEN_OPCODE || afs_serverHasNo64Bit(tc)) {
 929             if (base > 0x7FFFFFFF) {
 930                 code = EFBIG;
 931             } else {
 932                 afs_uint32 pos;
 933                 pos = base;
 934                 RX_AFS_GUNLOCK();
 935                 if (!v->call)
 936                     v->call = rx_NewCall(tc->id);
 937                 code =
 938                     StartRXAFS_FetchData(
 939                                 v->call, (struct AFSFid*)&avc->f.fid.Fid,
 940                                 pos, size);
 941                 RX_AFS_GLOCK();
 942             }
 943             afs_serverSetNo64Bit(tc);
 944         }
 945         if (!code) {
 946             RX_AFS_GUNLOCK();
 947             bytes = rx_Read(v->call, (char *)&length, sizeof(afs_int32));
 948             RX_AFS_GLOCK();
 949             if (bytes == sizeof(afs_int32))
 950                 length = ntohl(length);
 951             else {
 952                 RX_AFS_GUNLOCK();
 953                 code = rx_Error(v->call);
 954                 code1 = rx_EndCall(v->call, code);
 955                 v->call = NULL;
 956                 RX_AFS_GLOCK();
 957             }
 958         }
 959         FillInt64(length64, length_hi, length);
 960         afs_Trace3(afs_iclSetp, CM_TRACE_FETCH64LENG,
 961                    ICL_TYPE_POINTER, avc, ICL_TYPE_INT32, code,
 962                    ICL_TYPE_OFFSET,
 963                    ICL_HANDLE_OFFSET(length64));
 964         *alength = length64;
 965 #else /* AFS_64BIT_CLIENT */
 966         RX_AFS_GUNLOCK();
 967         code = StartRXAFS_FetchData(v->call, (struct AFSFid *)&avc->f.fid.Fid,
 968                                      base, size);
 969         RX_AFS_GLOCK();
 970         if (code == 0) {
 971             RX_AFS_GUNLOCK();
 972             bytes =
 973                 rx_Read(v->call, (char *)&length, sizeof(afs_int32));
 974             RX_AFS_GLOCK();
 975             if (bytes == sizeof(afs_int32)) {
 976                 *alength = ntohl(length);
 977             } else {
 978                 code = rx_Error(v->call);
 979                 code1 = rx_EndCall(v->call, code);
 980                 v->call = NULL;
 981             }
 982         }
 983 #endif /* AFS_64BIT_CLIENT */
 984     } else
 985         code = -1;
 986     if (code) {
 987         osi_FreeSmallSpace(v);
 988         return code;
 989     }
 990     /*
 991      * The fetch protocol is extended for the AFS/DFS translator
 992      * to allow multiple blocks of data, each with its own length,
 993      * to be returned. As long as the top bit is set, there are more
 994      * blocks expected.
 995      *
 996      * We do not do this for AFS file servers because they sometimes
 997      * return large negative numbers as the transfer size.
 998      *
 999      * Also omit if length > 2^32, as bit 31 is part of the number then.
1000      * Known to never be the case ifndef AFS_64BIT_CLIENT.
1001      */
1002     if (avc->f.states & CForeign && !length_hi) {
1003         *moredata = length & 0x80000000;
1004         length &= ~0x80000000;
1005     }
1006     if (cacheDiskType == AFS_FCACHE_TYPE_UFS) {
1007         v->tbuffer = osi_AllocLargeSpace(AFS_LRALLOCSIZ);
1008         if (!v->tbuffer)
1009             osi_Panic("rxfs_fetchInit: osi_AllocLargeSpace for iovecs returned NULL\n");
1010         osi_Assert(WriteLocked(&adc->lock));
1011         fP->offset = 0;
1012         *ops = (struct fetchOps *) &rxfs_fetchUfsOps;
1013     }
1014     else {
1015         afs_Trace4(afs_iclSetp, CM_TRACE_MEMFETCH, ICL_TYPE_POINTER, avc,
1016                    ICL_TYPE_POINTER, fP, ICL_TYPE_OFFSET,
1017                    ICL_HANDLE_OFFSET(base), ICL_TYPE_INT32, length);
1018         /*
1019          * We need to alloc the iovecs on the heap so that they are "pinned"
1020          * rather than declare them on the stack - defect 11272
1021          */
1022         v->iov = osi_AllocSmallSpace(sizeof(struct iovec) * RX_MAXIOVECS);
1023         if (!v->iov)
1024             osi_Panic("rxfs_fetchInit: osi_AllocSmallSpace for iovecs returned NULL\n");
1025         *ops = (struct fetchOps *) &rxfs_fetchMemOps;
1026     }
1027     *rock = (void *)v;
1028     return 0;
1029 }
1030
1031
1032 /*!
1033  * Routine called on fetch; also tells people waiting for data
1034  *      that more has arrived.
1035  *
1036  * \param tc Ptr to the Rx connection structure.
1037  * \param fP File descriptor for the cache file.
1038  * \param base Base offset to fetch.
1039  * \param adc Ptr to the dcache entry for the file, write-locked.
1040  * \param avc Ptr to the vcache entry for the file.
1041  * \param size Amount of data that should be fetched.
1042  * \param tsmall Ptr to the afs_FetchOutput structure.
1043  *
1044  * \note Environment: Nothing interesting.
1045  */
1046 int
1047 afs_CacheFetchProc(struct afs_conn *tc, struct osi_file *fP, afs_size_t base,
1048                     struct dcache *adc, struct vcache *avc, afs_int32 size,
1049                     struct afs_FetchOutput *tsmall)
1050 {
1051     afs_int32 code;
1052     afs_uint32 length;
1053     afs_uint32 bytesread, byteswritten;
1054     struct fetchOps *ops = NULL;
1055     void *rock = NULL;
1056     int moredata = 0;
1057     int offset = 0;
1058
1059     XSTATS_DECLS;
1060 #ifndef AFS_NOSTATS
1061     osi_timeval_t xferStartTime;        /*FS xfer start time */
1062     afs_size_t bytesToXfer = 0, bytesXferred = 0;
1063 #endif
1064
1065     AFS_STATCNT(CacheFetchProc);
1066
1067     XSTATS_START_TIME(AFS_STATS_FS_RPCIDX_FETCHDATA);
1068
1069     /*
1070      * Locks held:
1071      * avc->lock(R) if setLocks && !slowPass
1072      * avc->lock(W) if !setLocks || slowPass
1073      * adc->lock(W)
1074      */
1075     code = rxfs_fetchInit(
1076                 tc, avc, base, size, &length, &moredata, adc, fP, &ops, &rock);
1077
1078 #ifndef AFS_NOSTATS
1079     osi_GetuTime(&xferStartTime);
1080 #endif /* AFS_NOSTATS */
1081
1082     if (adc) {
1083         adc->validPos = base;
1084     }
1085
1086     if ( !code ) do {
1087         if ((avc->f.states & CForeign) && moredata && !length) {
1088             code = (*ops->more)(rock, &length, &moredata);
1089             if ( code )
1090                 break;
1091         }
1092 #ifndef AFS_NOSTATS
1093         bytesToXfer += length;
1094 #endif /* AFS_NOSTATS */
1095         while (length) {
1096 #ifdef RX_KERNEL_TRACE
1097             afs_Trace1(afs_iclSetp, CM_TRACE_TIMESTAMP, ICL_TYPE_STRING,
1098                        "before rx_Read");
1099 #endif
1100             code = (*ops->read)(rock, length, &bytesread);
1101 #ifdef RX_KERNEL_TRACE
1102             afs_Trace1(afs_iclSetp, CM_TRACE_TIMESTAMP, ICL_TYPE_STRING,
1103                        "after rx_Read");
1104 #endif
1105 #ifndef AFS_NOSTATS
1106             bytesXferred += bytesread;
1107 #endif /* AFS_NOSTATS */
1108             if ( code ) {
1109                 afs_Trace3(afs_iclSetp, CM_TRACE_FETCH64READ,
1110                            ICL_TYPE_POINTER, avc, ICL_TYPE_INT32, code,
1111                            ICL_TYPE_INT32, length);
1112                 code = -34;
1113                 break;
1114             }
1115             code = (*ops->write)(rock, fP, offset, bytesread, &byteswritten);
1116             if ( code )
1117                 break;
1118             offset += bytesread;
1119             base += bytesread;
1120             length -= bytesread;
1121             adc->validPos = base;
1122             if (afs_osi_Wakeup(&adc->validPos) == 0)
1123                 afs_Trace4(afs_iclSetp, CM_TRACE_DCACHEWAKE, ICL_TYPE_STRING,
1124                            __FILE__, ICL_TYPE_INT32, __LINE__,
1125                            ICL_TYPE_POINTER, adc, ICL_TYPE_INT32,
1126                            adc->dflags);
1127         }
1128         code = 0;
1129     } while (moredata);
1130     if (!code)
1131         code = (*ops->close)(rock, avc, adc, tsmall);
1132     (*ops->destroy)(&rock, code);
1133
1134 #ifndef AFS_NOSTATS
1135     FillStoreStats(code, AFS_STATS_FS_XFERIDX_FETCHDATA, &xferStartTime,
1136                         bytesToXfer, bytesXferred);
1137 #endif
1138     XSTATS_END_TIME;
1139     return code;
1140 }