6f2f354b9d9463b054e8d2169f480bb2557cbf23
[openafs.git] / src / afs / afs_fetchstore.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  *
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  */
9
10 #include <afsconfig.h>
11 #include "afs/param.h"
12
13 #include "afs/sysincludes.h"    /* Standard vendor system headers */
14 #ifndef AFS_LINUX22_ENV
15 #include "rpc/types.h"
16 #endif
17 #ifdef  AFS_ALPHA_ENV
18 #undef kmem_alloc
19 #undef kmem_free
20 #undef mem_alloc
21 #undef mem_free
22 #undef register
23 #endif /* AFS_ALPHA_ENV */
24 #include "afsincludes.h"        /* Afs-based standard headers */
25 #include "afs/afs_stats.h"      /* statistics */
26 #include "afs_prototypes.h"
27
28 extern int cacheDiskType;
29
30
31 #ifndef AFS_NOSTATS
32 void
33 FillStoreStats(int code, int idx, osi_timeval_t *xferStartTime,
34                   afs_size_t bytesToXfer, afs_size_t bytesXferred)
35 {
36     struct afs_stats_xferData *xferP;
37     osi_timeval_t xferStopTime;
38     XSTATS_DECLS;
39
40     xferP = &(afs_stats_cmfullperf.rpc.fsXferTimes[idx]);
41     osi_GetuTime(&xferStopTime);
42     (xferP->numXfers)++;
43     if (!code) {
44         (xferP->numSuccesses)++;
45         afs_stats_XferSumBytes[idx] += bytesXferred;
46         (xferP->sumBytes) += (afs_stats_XferSumBytes[idx] >> 10);
47         afs_stats_XferSumBytes[idx] &= 0x3FF;
48         if (bytesXferred < xferP->minBytes)
49             xferP->minBytes = bytesXferred;
50         if (bytesXferred > xferP->maxBytes)
51             xferP->maxBytes = bytesXferred;
52
53         /*
54          * Tally the size of the object.  Note: we tally the actual size,
55          * NOT the number of bytes that made it out over the wire.
56          */
57         if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET0) (xferP->count[0])++;
58         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET1) (xferP->count[1])++;
59         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET2) (xferP->count[2])++;
60         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET3) (xferP->count[3])++;
61         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET4) (xferP->count[4])++;
62         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET5) (xferP->count[5])++;
63         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET6) (xferP->count[6])++;
64         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET7) (xferP->count[7])++;
65         else
66             (xferP->count[8])++;
67
68         afs_stats_GetDiff(elapsedTime, (*xferStartTime), xferStopTime);
69         afs_stats_AddTo((xferP->sumTime), elapsedTime);
70         afs_stats_SquareAddTo((xferP->sqrTime), elapsedTime);
71         if (afs_stats_TimeLessThan(elapsedTime, (xferP->minTime))) {
72             afs_stats_TimeAssign((xferP->minTime), elapsedTime);
73         }
74         if (afs_stats_TimeGreaterThan(elapsedTime, (xferP->maxTime))) {
75             afs_stats_TimeAssign((xferP->maxTime), elapsedTime);
76         }
77     }
78 }
79 #endif /* AFS_NOSTATS */
80
81 /* rock and operations for RX_FILESERVER */
82
83 struct rxfs_storeVariables {
84     struct rx_call *call;
85     char *tbuffer;
86     struct iovec *tiov;
87     afs_uint32 tnio;
88     afs_int32 hasNo64bit;
89     struct AFSStoreStatus InStatus;
90 };
91
92 afs_int32
93 rxfs_storeUfsPrepare(void *r, afs_uint32 size, afs_uint32 *tlen)
94 {
95     *tlen = (size > AFS_LRALLOCSIZ ?  AFS_LRALLOCSIZ : size);
96     return 0;
97 }
98
99 afs_int32
100 rxfs_storeMemPrepare(void *r, afs_uint32 size, afs_uint32 *tlen)
101 {
102     afs_int32 code;
103     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *) r;
104
105     *tlen = (size > AFS_LRALLOCSIZ ?  AFS_LRALLOCSIZ : size);
106     RX_AFS_GUNLOCK();
107     code = rx_WritevAlloc(v->call, v->tiov, &v->tnio, RX_MAXIOVECS, *tlen);
108     RX_AFS_GLOCK();
109     if (code <= 0) {
110         code = rx_Error(v->call);
111         if (!code)
112             code = -33;
113     }
114     else {
115         *tlen = code;
116         code = 0;
117     }
118     return code;
119 }
120
121 afs_int32
122 rxfs_storeUfsRead(void *r, struct osi_file *tfile, afs_uint32 offset,
123                   afs_uint32 tlen, afs_uint32 *bytesread)
124 {
125     afs_int32 code;
126     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
127
128     *bytesread = 0;
129     code = afs_osi_Read(tfile, -1, v->tbuffer, tlen);
130     if (code < 0)
131         return EIO;
132     *bytesread = code;
133     if (code == tlen)
134         return 0;
135 #if defined(KERNEL_HAVE_UERROR)
136     if (getuerror())
137         return EIO;
138 #endif
139     return 0;
140 }
141
142 afs_int32
143 rxfs_storeMemRead(void *r, struct osi_file *tfile, afs_uint32 offset,
144                   afs_uint32 tlen, afs_uint32 *bytesread)
145 {
146     afs_int32 code;
147     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
148     struct memCacheEntry *mceP = (struct memCacheEntry *)tfile;
149
150     *bytesread = 0;
151     code = afs_MemReadvBlk(mceP, offset, v->tiov, v->tnio, tlen);
152     if (code != tlen)
153         return -33;
154     *bytesread = code;
155     return 0;
156 }
157
158 afs_int32
159 rxfs_storeMemWrite(void *r, afs_uint32 l, afs_uint32 *byteswritten)
160 {
161     afs_int32 code;
162     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
163
164     RX_AFS_GUNLOCK();
165     code = rx_Writev(v->call, v->tiov, v->tnio, l);
166     RX_AFS_GLOCK();
167     if (code != l) {
168         code = rx_Error(v->call);
169         return (code ? code : -33);
170     }
171     *byteswritten = code;
172     return 0;
173 }
174
175 afs_int32
176 rxfs_storeUfsWrite(void *r, afs_uint32 l, afs_uint32 *byteswritten)
177 {
178     afs_int32 code;
179     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
180
181     RX_AFS_GUNLOCK();
182     code = rx_Write(v->call, v->tbuffer, l);
183         /* writing 0 bytes will
184          * push a short packet.  Is that really what we want, just because the
185          * data didn't come back from the disk yet?  Let's try it and see. */
186     RX_AFS_GLOCK();
187     if (code != l) {
188         code = rx_Error(v->call);
189         return (code ? code : -33);
190     }
191     *byteswritten = code;
192     return 0;
193 }
194
195 afs_int32
196 rxfs_storePadd(void *rock, afs_uint32 size)
197 {
198     afs_int32 code = 0;
199     afs_uint32 tlen;
200     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)rock;
201
202     if (!v->tbuffer)
203         v->tbuffer = osi_AllocLargeSpace(AFS_LRALLOCSIZ);
204     memset(v->tbuffer, 0, AFS_LRALLOCSIZ);
205
206     while (size) {
207         tlen = (size > AFS_LRALLOCSIZ ? AFS_LRALLOCSIZ : size);
208         RX_AFS_GUNLOCK();
209         code = rx_Write(v->call, v->tbuffer, tlen);
210         RX_AFS_GLOCK();
211
212         if (code != tlen)
213             return -33; /* XXX */
214         size -= tlen;
215     }
216     return code;
217 }
218
219 afs_int32
220 rxfs_storeStatus(void *rock)
221 {
222     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)rock;
223
224     if (rx_GetRemoteStatus(v->call) & 1)
225         return 0;
226     return 1;
227 }
228
229 afs_int32
230 rxfs_storeClose(void *r, struct AFSFetchStatus *OutStatus, int *doProcessFS)
231 {
232     afs_int32 code;
233     struct AFSVolSync tsync;
234     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
235
236     if (!v->call)
237         return -1;
238     RX_AFS_GUNLOCK();
239 #ifdef AFS_64BIT_CLIENT
240     if (!v->hasNo64bit)
241         code = EndRXAFS_StoreData64(v->call, OutStatus, &tsync);
242     else
243 #endif
244         code = EndRXAFS_StoreData(v->call, OutStatus, &tsync);
245     RX_AFS_GLOCK();
246     if (!code)
247         *doProcessFS = 1;       /* Flag to run afs_ProcessFS() later on */
248
249     return code;
250 }
251
252 afs_int32
253 rxfs_storeDestroy(void **r, afs_int32 error)
254 {
255     afs_int32 code = error;
256     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)*r;
257
258     *r = NULL;
259     if (v->call) {
260         RX_AFS_GUNLOCK();
261         code = rx_EndCall(v->call, error);
262         RX_AFS_GLOCK();
263         if (!code && error)
264             code = error;
265     }
266     if (v->tbuffer)
267         osi_FreeLargeSpace(v->tbuffer);
268     if (v->tiov)
269         osi_FreeSmallSpace(v->tiov);
270     osi_FreeSmallSpace(v);
271     return code;
272 }
273
274 static
275 struct storeOps rxfs_storeUfsOps = {
276     rxfs_storeUfsPrepare,
277     rxfs_storeUfsRead,
278     rxfs_storeUfsWrite,
279     rxfs_storeStatus,
280     rxfs_storePadd,
281     rxfs_storeClose,
282     rxfs_storeDestroy
283 };
284
285 static
286 struct storeOps rxfs_storeMemOps = {
287     rxfs_storeMemPrepare,
288     rxfs_storeMemRead,
289     rxfs_storeMemWrite,
290     rxfs_storeStatus,
291     rxfs_storePadd,
292     rxfs_storeClose,
293     rxfs_storeDestroy
294 };
295
296 afs_int32
297 rxfs_storeInit(struct vcache *avc, struct afs_conn *tc, afs_size_t base,
298                 afs_size_t bytes, afs_size_t length,
299                 int sync, struct storeOps **ops, void **rock)
300 {
301     afs_int32 code;
302     struct rxfs_storeVariables *v;
303
304     if ( !tc )
305         return -1;
306
307     v = (struct rxfs_storeVariables *) osi_AllocSmallSpace(sizeof(struct rxfs_storeVariables));
308     if (!v)
309         osi_Panic("rxfs_storeInit: osi_AllocSmallSpace returned NULL\n");
310     memset(v, 0, sizeof(struct rxfs_storeVariables));
311
312     v->InStatus.ClientModTime = avc->f.m.Date;
313     v->InStatus.Mask = AFS_SETMODTIME;
314     if (sync & AFS_SYNC)
315         v->InStatus.Mask |= AFS_FSYNC;
316     RX_AFS_GUNLOCK();
317     v->call = rx_NewCall(tc->id);
318     if (v->call) {
319 #ifdef AFS_64BIT_CLIENT
320         if (!afs_serverHasNo64Bit(tc))
321             code = StartRXAFS_StoreData64(
322                                 v->call, (struct AFSFid*)&avc->f.fid.Fid,
323                                 &v->InStatus, base, bytes, length);
324         else
325             if (length > 0xFFFFFFFF)
326                 code = EFBIG;
327             else {
328                 afs_int32 t1 = base, t2 = bytes, t3 = length;
329                 code = StartRXAFS_StoreData(v->call,
330                                         (struct AFSFid *) &avc->f.fid.Fid,
331                                          &v->InStatus, t1, t2, t3);
332             }
333 #else /* AFS_64BIT_CLIENT */
334         code = StartRXAFS_StoreData(v->call, (struct AFSFid *)&avc->f.fid.Fid,
335                                     &v->InStatus, base, bytes, length);
336 #endif /* AFS_64BIT_CLIENT */
337     } else
338         code = -1;
339     RX_AFS_GLOCK();
340     if (code) {
341         osi_FreeSmallSpace(v);
342         return code;
343     }
344     if (cacheDiskType == AFS_FCACHE_TYPE_UFS) {
345         v->tbuffer = osi_AllocLargeSpace(AFS_LRALLOCSIZ);
346         if (!v->tbuffer)
347             osi_Panic
348             ("rxfs_storeInit: osi_AllocLargeSpace for iovecs returned NULL\n");
349         *ops = (struct storeOps *) &rxfs_storeUfsOps;
350     } else {
351         v->tiov = osi_AllocSmallSpace(sizeof(struct iovec) * RX_MAXIOVECS);
352         if (!v->tiov)
353             osi_Panic
354             ("rxfs_storeInit: osi_AllocSmallSpace for iovecs returned NULL\n");
355         *ops = (struct storeOps *) &rxfs_storeMemOps;
356 #ifdef notdef
357         /* do this at a higher level now -- it's a parameter */
358         /* for now, only do 'continue from close' code if file fits in one
359          * chunk.  Could clearly do better: if only one modified chunk
360          * then can still do this.  can do this on *last* modified chunk */
361         length = avc->f.m.Length - 1; /* byte position of last byte we'll store */
362         if (shouldWake) {
363             if (AFS_CHUNK(length) != 0)
364                 *shouldWake = 0;
365             else
366                 *shouldWake = 1;
367         }
368 #endif /* notdef */
369     }
370
371     *rock = (void *)v;
372     return 0;
373 }
374
375 unsigned int storeallmissing = 0;
376 /*!
377  *      Called for each chunk upon store.
378  *
379  * \param avc Ptr to the vcache entry of the file being stored.
380  * \param dclist pointer to the list of dcaches
381  * \param bytes total number of bytes for the current operation
382  * \param anewDV Ptr to the dataversion after store
383  * \param doProcessFS pointer to the "do process FetchStatus" flag
384  * \param OutStatus pointer to the FetchStatus as returned by the fileserver
385  * \param nchunks number of dcaches to consider
386  * \param nomore copy of the "no more data" flag
387  * \param ops pointer to the block of storeOps to be used for this operation
388  * \param rock pointer to the opaque protocol-specific data of this operation
389  */
390 afs_int32
391 afs_CacheStoreDCaches(struct vcache *avc, struct dcache **dclist,
392                         afs_size_t bytes,
393                         afs_hyper_t *anewDV,
394                         int *doProcessFS,
395                         struct AFSFetchStatus *OutStatus,
396                         afs_uint32 nchunks,
397                         int nomore,
398                         struct storeOps *ops, void *rock)
399 {
400     int *shouldwake = NULL;
401     unsigned int i;
402     afs_int32 code = 0;
403
404 #ifndef AFS_NOSTATS
405     osi_timeval_t xferStartTime;        /*FS xfer start time */
406     afs_size_t bytesToXfer = 10000;     /* # bytes to xfer */
407     afs_size_t bytesXferred = 10000;    /* # bytes actually xferred */
408 #endif /* AFS_NOSTATS */
409     XSTATS_DECLS;
410
411     for (i = 0; i < nchunks && !code; i++) {
412         int stored = 0;
413         struct osi_file *tfile;
414         int offset = 0;
415         struct dcache *tdc = dclist[i];
416         afs_int32 size = tdc->f.chunkBytes;
417         if (!tdc) {
418             afs_warn("afs: missing dcache!\n");
419             storeallmissing++;
420             continue;   /* panic? */
421         }
422         afs_Trace4(afs_iclSetp, CM_TRACE_STOREALL2, ICL_TYPE_POINTER, avc,
423                     ICL_TYPE_INT32, tdc->f.chunk, ICL_TYPE_INT32, tdc->index,
424                     ICL_TYPE_INT32, afs_inode2trace(&tdc->f.inode));
425         shouldwake = 0;
426         if (nomore) {
427             if (avc->asynchrony == -1) {
428                 if (afs_defaultAsynchrony > (bytes - stored))
429                     shouldwake = &nomore;
430             }
431             else if ((afs_uint32) avc->asynchrony >= (bytes - stored))
432                 shouldwake = &nomore;
433         }
434         tfile = afs_CFileOpen(&tdc->f.inode);
435
436         afs_Trace4(afs_iclSetp, CM_TRACE_STOREPROC, ICL_TYPE_POINTER, avc,
437                     ICL_TYPE_FID, &(avc->f.fid), ICL_TYPE_OFFSET,
438                     ICL_HANDLE_OFFSET(avc->f.m.Length), ICL_TYPE_INT32, size);
439
440         AFS_STATCNT(CacheStoreProc);
441
442         XSTATS_START_TIME(AFS_STATS_FS_RPCIDX_STOREDATA);
443         avc->f.truncPos = AFS_NOTRUNC;
444 #ifndef AFS_NOSTATS
445         /*
446          * In this case, size is *always* the amount of data we'll be trying
447          * to ship here.
448          */
449         bytesToXfer = size;
450         bytesXferred = 0;
451
452         osi_GetuTime(&xferStartTime);
453 #endif /* AFS_NOSTATS */
454
455         while ( size > 0 ) {
456             afs_uint32 tlen;
457             afs_int32 bytesread, byteswritten;
458             code = (*ops->prepare)(rock, size, &tlen);
459             if ( code )
460                 break;
461
462             code = (*ops->read)(rock, tfile, offset, tlen, &bytesread);
463             if (code)
464                 break;
465
466             tlen = bytesread;
467             code = (*ops->write)(rock, tlen, &byteswritten);
468             if (code)
469                 break;
470 #ifndef AFS_NOSTATS
471             bytesXferred += byteswritten;
472 #endif /* AFS_NOSTATS */
473
474             offset += tlen;
475             size -= tlen;
476             /*
477              * if file has been locked on server, can allow
478              * store to continue
479              */
480             if (shouldwake && *shouldwake && ((*ops->status)(rock) == 0)) {
481                 *shouldwake = 0;        /* only do this once */
482                 afs_wakeup(avc);
483             }
484         }
485         afs_Trace4(afs_iclSetp, CM_TRACE_STOREPROC, ICL_TYPE_POINTER, avc,
486                     ICL_TYPE_FID, &(avc->f.fid), ICL_TYPE_OFFSET,
487                     ICL_HANDLE_OFFSET(avc->f.m.Length), ICL_TYPE_INT32, size);
488
489 #ifndef AFS_NOSTATS
490         FillStoreStats(code, AFS_STATS_FS_XFERIDX_STOREDATA,
491                     &xferStartTime, bytesToXfer, bytesXferred);
492 #endif /* AFS_NOSTATS */
493
494         afs_CFileClose(tfile);
495         if ((tdc->f.chunkBytes < afs_OtherCSize)
496                 && (i < (nchunks - 1)) && code == 0) {
497             int bsent, tlen, sbytes = afs_OtherCSize - tdc->f.chunkBytes;
498             char *tbuffer = osi_AllocLargeSpace(AFS_LRALLOCSIZ);
499
500             while (sbytes > 0) {
501                 tlen = (sbytes > AFS_LRALLOCSIZ ? AFS_LRALLOCSIZ : sbytes);
502                 memset(tbuffer, 0, tlen);
503                 RX_AFS_GUNLOCK();
504                 bsent = rx_Write(
505                         ((struct rxfs_storeVariables*)rock)->call, tbuffer, tlen);
506                 RX_AFS_GLOCK();
507
508                 if (bsent != tlen) {
509                     code = -33; /* XXX */
510                     break;
511                 }
512                 sbytes -= tlen;
513             }
514             osi_FreeLargeSpace(tbuffer);
515         }
516         stored += tdc->f.chunkBytes;
517         /* ideally, I'd like to unlock the dcache and turn
518          * off the writing bit here, but that would
519          * require being able to retry StoreAllSegments in
520          * the event of a failure. It only really matters
521          * if user can't read from a 'locked' dcache or
522          * one which has the writing bit turned on. */
523     }
524
525     if (!code) {
526         code = (*ops->close)(rock, OutStatus, doProcessFS);
527         if (*doProcessFS) {
528             hadd32(*anewDV, 1);
529         }
530         XSTATS_END_TIME;
531     }
532     if (ops)
533         code = (*ops->destroy)(&rock, code);
534     return code;
535 }
536
537 #define lmin(a,b) (((a) < (b)) ? (a) : (b))
538 /*!
539  *      Called upon store.
540  *
541  * \param dclist pointer to the list of dcaches
542  * \param avc Ptr to the vcache entry.
543  * \param areq Ptr to the request structure
544  * \param sync sync flag
545  * \param minj the chunk offset for this call
546  * \param high index of last dcache to store
547  * \param moredata the moredata flag
548  * \param anewDV Ptr to the dataversion after store
549  * \param amaxStoredLength Ptr to the amount of that is actually stored
550  *
551  * \note Environment: Nothing interesting.
552  */
553 int
554 afs_CacheStoreVCache(struct dcache **dcList, struct vcache *avc,
555                         struct vrequest *areq, int sync,
556                         unsigned int minj, unsigned int high,
557                         unsigned int moredata,
558                         afs_hyper_t *anewDV, afs_size_t *amaxStoredLength)
559 {
560     afs_int32 code = 0;
561     struct storeOps *ops;
562     void * rock = NULL;
563     unsigned int i, j;
564
565     struct AFSFetchStatus OutStatus;
566     int doProcessFS = 0;
567     afs_size_t base, bytes, length;
568     int nomore;
569     unsigned int first = 0;
570     struct afs_conn *tc;
571
572     for (bytes = 0, j = 0; !code && j <= high; j++) {
573         if (dcList[j]) {
574             ObtainSharedLock(&(dcList[j]->lock), 629);
575             if (!bytes)
576                 first = j;
577             bytes += dcList[j]->f.chunkBytes;
578             if ((dcList[j]->f.chunkBytes < afs_OtherCSize)
579                         && (dcList[j]->f.chunk - minj < high)
580                         && dcList[j + 1]) {
581                 int sbytes = afs_OtherCSize - dcList[j]->f.chunkBytes;
582                 bytes += sbytes;
583             }
584         }
585         if (bytes && (j == high || !dcList[j + 1])) {
586             afs_uint32 nchunks;
587             struct dcache **dclist = &dcList[first];
588             /* base = AFS_CHUNKTOBASE(dcList[first]->f.chunk); */
589             base = AFS_CHUNKTOBASE(first + minj);
590             /*
591              *
592              * take a list of dcache structs and send them all off to the server
593              * the list must be in order, and the chunks contiguous.
594              * Note - there is no locking done by this code currently.  For
595              * safety's sake, xdcache could be locked over the entire call.
596              * However, that pretty well ties up all the threads.  Meantime, all
597              * the chunks _MUST_ have their refcounts bumped.
598              * The writes done before a store back will clear setuid-ness
599              * in cache file.
600              * We can permit CacheStoreProc to wake up the user process IFF we
601              * are doing the last RPC for this close, ie, storing back the last
602              * set of contiguous chunks of a file.
603              */
604
605             nchunks = 1 + j - first;
606             nomore = !(moredata || (j != high));
607             length = lmin(avc->f.m.Length, avc->f.truncPos);
608             afs_Trace4(afs_iclSetp, CM_TRACE_STOREDATA64,
609                        ICL_TYPE_FID, &avc->f.fid.Fid, ICL_TYPE_OFFSET,
610                        ICL_HANDLE_OFFSET(base), ICL_TYPE_OFFSET,
611                        ICL_HANDLE_OFFSET(bytes), ICL_TYPE_OFFSET,
612                        ICL_HANDLE_OFFSET(length));
613             tc = afs_Conn(&avc->f.fid, areq, 0);
614
615             do {
616 #ifdef AFS_64BIT_CLIENT
617               restart:
618 #endif
619                 code = rxfs_storeInit(avc, tc, base, bytes, length,
620                                         sync, &ops, &rock);
621                 if ( code )
622                     goto nocall;
623
624                 code = afs_CacheStoreDCaches(avc, dclist, bytes, anewDV,
625                         &doProcessFS, &OutStatus, nchunks, nomore, ops, rock);
626
627 nocall:
628 #ifdef AFS_64BIT_CLIENT
629                 if (code == RXGEN_OPCODE && !afs_serverHasNo64Bit(tc)) {
630                     afs_serverSetNo64Bit(tc);
631                     goto restart;
632                 }
633 #else
634                 continue;       /* dummy, label before block end won't work */
635 #endif /* AFS_64BIT_CLIENT */
636             } while (afs_Analyze
637                      (tc, code, &avc->f.fid, areq,
638                       AFS_STATS_FS_RPCIDX_STOREDATA, SHARED_LOCK,
639                       NULL));
640
641             /* put back all remaining locked dcache entries */
642             for (i = 0; i < nchunks; i++) {
643                 struct dcache *tdc = dclist[i];
644                 if (!code) {
645                     if (afs_indexFlags[tdc->index] & IFDataMod) {
646                         /*
647                          * LOCKXXX -- should hold afs_xdcache(W) when
648                          * modifying afs_indexFlags.
649                          */
650                         afs_indexFlags[tdc->index] &= ~IFDataMod;
651                         afs_stats_cmperf.cacheCurrDirtyChunks--;
652                         afs_indexFlags[tdc->index] &= ~IFDirtyPages;
653                         if (sync & AFS_VMSYNC_INVAL) {
654                             /* since we have invalidated all the pages of this
655                              ** vnode by calling osi_VM_TryToSmush, we can
656                              ** safely mark this dcache entry as not having
657                              ** any pages. This vnode now becomes eligible for
658                              ** reclamation by getDownD.
659                              */
660                             afs_indexFlags[tdc->index] &= ~IFAnyPages;
661                         }
662                     }
663                 }
664                 UpgradeSToWLock(&tdc->lock, 628);
665                 tdc->f.states &= ~DWriting;     /* correct? */
666                 tdc->dflags |= DFEntryMod;
667                 ReleaseWriteLock(&tdc->lock);
668                 afs_PutDCache(tdc);
669                 /* Mark the entry as released */
670                 dclist[i] = NULL;
671             }
672
673             if (doProcessFS) {
674                 /* Now copy out return params */
675                 UpgradeSToWLock(&avc->lock, 28);        /* keep out others for a while */
676                 afs_ProcessFS(avc, &OutStatus, areq);
677                 /* Keep last (max) size of file on server to see if
678                  * we need to call afs_StoreMini to extend the file.
679                  */
680                 if (!moredata)
681                     *amaxStoredLength = OutStatus.Length;
682                 ConvertWToSLock(&avc->lock);
683                 doProcessFS = 0;
684             }
685
686             if (code) {
687                 for (j++; j <= high; j++) {
688                     if (dcList[j]) {
689                         ReleaseSharedLock(&(dcList[j]->lock));
690                         afs_PutDCache(dcList[j]);
691                         /* Releasing entry */
692                         dcList[j] = NULL;
693                     }
694                 }
695             }
696
697             afs_Trace2(afs_iclSetp, CM_TRACE_STOREALLDCDONE,
698                        ICL_TYPE_POINTER, avc, ICL_TYPE_INT32, code);
699             bytes = 0;
700         }
701     }
702
703     return code;
704 }
705
706 /* rock and operations for RX_FILESERVER */
707
708 struct rxfs_fetchVariables {
709     struct rx_call *call;
710     char *tbuffer;
711     struct iovec *iov;
712     afs_uint32 nio;
713     afs_int32 hasNo64bit;
714     afs_int32 iovno;
715     afs_int32 iovmax;
716 };
717
718 afs_int32
719 rxfs_fetchUfsRead(void *r, afs_uint32 size, afs_uint32 *bytesread)
720 {
721     afs_int32 code;
722     afs_uint32 tlen;
723     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
724
725     *bytesread = 0;
726     tlen = (size > AFS_LRALLOCSIZ ?  AFS_LRALLOCSIZ : size);
727     RX_AFS_GUNLOCK();
728     code = rx_Read(v->call, v->tbuffer, tlen);
729     RX_AFS_GLOCK();
730     if (code <= 0)
731         return -34;
732     *bytesread = code;
733     return 0;
734 }
735
736 afs_int32
737 rxfs_fetchMemRead(void *r, afs_uint32 tlen, afs_uint32 *bytesread)
738 {
739     afs_int32 code;
740     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
741
742     *bytesread = 0;
743     RX_AFS_GUNLOCK();
744     code = rx_Readv(v->call, v->iov, &v->nio, RX_MAXIOVECS, tlen);
745     RX_AFS_GLOCK();
746     if (code <= 0)
747         return -34;
748     *bytesread = code;
749     return 0;
750 }
751
752
753 afs_int32
754 rxfs_fetchMemWrite(void *r, struct osi_file *fP,
755                         afs_uint32 offset, afs_uint32 tlen,
756                         afs_uint32 *byteswritten)
757 {
758     afs_int32 code;
759     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
760     struct memCacheEntry *mceP = (struct memCacheEntry *)fP;
761
762     code = afs_MemWritevBlk(mceP, offset, v->iov, v->nio, tlen);
763     if (code != tlen) {
764         return EIO;
765     }
766     *byteswritten = code;
767     return 0;
768 }
769
770 afs_int32
771 rxfs_fetchUfsWrite(void *r, struct osi_file *fP,
772                         afs_uint32 offset, afs_uint32 tlen,
773                         afs_uint32 *byteswritten)
774 {
775     afs_int32 code;
776     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
777
778     code = afs_osi_Write(fP, -1, v->tbuffer, tlen);
779     if (code != tlen) {
780         return EIO;
781     }
782     *byteswritten = code;
783     return 0;
784 }
785
786
787 afs_int32
788 rxfs_fetchClose(void *r, struct vcache *avc, struct dcache * adc,
789                                         struct afs_FetchOutput *o)
790 {
791     afs_int32 code, code1 = 0;
792     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
793
794     if (!v->call)
795         return -1;
796
797     RX_AFS_GUNLOCK();
798 #ifdef AFS_64BIT_CLIENT
799     if (!v->hasNo64bit)
800         code = EndRXAFS_FetchData64(v->call, &o->OutStatus, &o->CallBack,
801                                 &o->tsync);
802     else
803 #endif
804         code = EndRXAFS_FetchData(v->call, &o->OutStatus, &o->CallBack,
805                                 &o->tsync);
806     code1 = rx_EndCall(v->call, code);
807     RX_AFS_GLOCK();
808     if (!code && code1)
809         code = code1;
810
811     v->call = NULL;
812
813     return code;
814 }
815
816 afs_int32
817 rxfs_fetchDestroy(void **r, afs_int32 error)
818 {
819     afs_int32 code = error;
820     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)*r;
821
822     *r = NULL;
823     if (v->call) {
824         RX_AFS_GUNLOCK();
825         code = rx_EndCall(v->call, error);
826         RX_AFS_GLOCK();
827         if (error)
828             code = error;
829     }
830     if (v->tbuffer)
831         osi_FreeLargeSpace(v->tbuffer);
832     if (v->iov)
833         osi_FreeSmallSpace(v->iov);
834     osi_FreeSmallSpace(v);
835     return code;
836 }
837
838 afs_int32
839 rxfs_fetchMore(void *r, afs_uint32 *length, afs_uint32 *moredata)
840 {
841     afs_int32 code;
842     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
843
844     /*
845      * The fetch protocol is extended for the AFS/DFS translator
846      * to allow multiple blocks of data, each with its own length,
847      * to be returned. As long as the top bit is set, there are more
848      * blocks expected.
849      *
850      * We do not do this for AFS file servers because they sometimes
851      * return large negative numbers as the transfer size.
852      */
853     RX_AFS_GUNLOCK();
854     code = rx_Read(v->call, (void *)length, sizeof(afs_int32));
855     RX_AFS_GLOCK();
856     *length = ntohl(*length);
857     if (code != sizeof(afs_int32)) {
858         code = rx_Error(v->call);
859         *moredata = 0;
860         return (code ? code : -1);      /* try to return code, not -1 */
861     }
862     *moredata = *length & 0x80000000;
863     *length &= ~0x80000000;
864     return 0;
865 }
866
867 static
868 struct fetchOps rxfs_fetchUfsOps = {
869     rxfs_fetchMore,
870     rxfs_fetchUfsRead,
871     rxfs_fetchUfsWrite,
872     rxfs_fetchClose,
873     rxfs_fetchDestroy
874 };
875
876 static
877 struct fetchOps rxfs_fetchMemOps = {
878     rxfs_fetchMore,
879     rxfs_fetchMemRead,
880     rxfs_fetchMemWrite,
881     rxfs_fetchClose,
882     rxfs_fetchDestroy
883 };
884
885 afs_int32
886 rxfs_fetchInit(struct afs_conn *tc, struct vcache *avc, afs_offs_t base,
887                 afs_uint32 size, afs_uint32 *alength, afs_uint32 *moredata,
888                 struct dcache *adc,
889                 struct osi_file *fP, struct fetchOps **ops, void **rock)
890 {
891     struct rxfs_fetchVariables *v;
892     int code = 0, code1;
893     afs_uint32 length_hi = 0, length, bytes;
894
895     v = (struct rxfs_fetchVariables *) osi_AllocSmallSpace(sizeof(struct rxfs_fetchVariables));
896     if (!v)
897         osi_Panic("rxfs_fetchInit: osi_AllocSmallSpace returned NULL\n");
898     memset(v, 0, sizeof(struct rxfs_fetchVariables));
899
900     RX_AFS_GUNLOCK();
901     v->call = rx_NewCall(tc->id);
902     RX_AFS_GLOCK();
903     if (v->call) {
904 #ifdef AFS_64BIT_CLIENT
905         afs_size_t length64;     /* as returned from server */
906         if (!afs_serverHasNo64Bit(tc)) {
907             afs_uint64 llbytes = size;
908             RX_AFS_GUNLOCK();
909             code = StartRXAFS_FetchData64(v->call, (struct AFSFid *) &avc->f.fid.Fid,
910                                                base, llbytes);
911             if (code != 0) {
912                 RX_AFS_GLOCK();
913                 afs_Trace2(afs_iclSetp, CM_TRACE_FETCH64CODE,
914                                ICL_TYPE_POINTER, avc, ICL_TYPE_INT32, code);
915             } else {
916                 bytes = rx_Read(v->call, (char *)&length_hi, sizeof(afs_int32));
917                 RX_AFS_GLOCK();
918                 if (bytes == sizeof(afs_int32)) {
919                     length_hi = ntohl(length_hi);
920                 } else {
921                     code = rx_Error(v->call);
922                     RX_AFS_GUNLOCK();
923                     code1 = rx_EndCall(v->call, code);
924                     RX_AFS_GLOCK();
925                     v->call = NULL;
926                 }
927             }
928         }
929         if (code == RXGEN_OPCODE || afs_serverHasNo64Bit(tc)) {
930             if (base > 0x7FFFFFFF) {
931                 code = EFBIG;
932             } else {
933                 afs_uint32 pos;
934                 pos = base;
935                 RX_AFS_GUNLOCK();
936                 if (!v->call)
937                     v->call = rx_NewCall(tc->id);
938                 code =
939                     StartRXAFS_FetchData(
940                                 v->call, (struct AFSFid*)&avc->f.fid.Fid,
941                                 pos, size);
942                 RX_AFS_GLOCK();
943             }
944             afs_serverSetNo64Bit(tc);
945         }
946         if (!code) {
947             RX_AFS_GUNLOCK();
948             bytes = rx_Read(v->call, (char *)&length, sizeof(afs_int32));
949             RX_AFS_GLOCK();
950             if (bytes == sizeof(afs_int32))
951                 length = ntohl(length);
952             else {
953                 RX_AFS_GUNLOCK();
954                 code = rx_Error(v->call);
955                 code1 = rx_EndCall(v->call, code);
956                 v->call = NULL;
957                 RX_AFS_GLOCK();
958             }
959         }
960         FillInt64(length64, length_hi, length);
961         afs_Trace3(afs_iclSetp, CM_TRACE_FETCH64LENG,
962                    ICL_TYPE_POINTER, avc, ICL_TYPE_INT32, code,
963                    ICL_TYPE_OFFSET,
964                    ICL_HANDLE_OFFSET(length64));
965         *alength = length64;
966 #else /* AFS_64BIT_CLIENT */
967         RX_AFS_GUNLOCK();
968         code = StartRXAFS_FetchData(v->call, (struct AFSFid *)&avc->f.fid.Fid,
969                                      base, size);
970         RX_AFS_GLOCK();
971         if (code == 0) {
972             RX_AFS_GUNLOCK();
973             bytes =
974                 rx_Read(v->call, (char *)&length, sizeof(afs_int32));
975             RX_AFS_GLOCK();
976             if (bytes == sizeof(afs_int32)) {
977                 *alength = ntohl(length);
978             } else {
979                 code = rx_Error(v->call);
980                 code1 = rx_EndCall(v->call, code);
981                 v->call = NULL;
982             }
983         }
984 #endif /* AFS_64BIT_CLIENT */
985     } else
986         code = -1;
987     if (code) {
988         osi_FreeSmallSpace(v);
989         return code;
990     }
991     /*
992      * The fetch protocol is extended for the AFS/DFS translator
993      * to allow multiple blocks of data, each with its own length,
994      * to be returned. As long as the top bit is set, there are more
995      * blocks expected.
996      *
997      * We do not do this for AFS file servers because they sometimes
998      * return large negative numbers as the transfer size.
999      *
1000      * Also omit if length > 2^32, as bit 31 is part of the number then.
1001      * Known to never be the case ifndef AFS_64BIT_CLIENT.
1002      */
1003     if (avc->f.states & CForeign && !length_hi) {
1004         *moredata = length & 0x80000000;
1005         length &= ~0x80000000;
1006     }
1007     if (cacheDiskType == AFS_FCACHE_TYPE_UFS) {
1008         v->tbuffer = osi_AllocLargeSpace(AFS_LRALLOCSIZ);
1009         if (!v->tbuffer)
1010             osi_Panic("rxfs_fetchInit: osi_AllocLargeSpace for iovecs returned NULL\n");
1011         osi_Assert(WriteLocked(&adc->lock));
1012         fP->offset = 0;
1013         *ops = (struct fetchOps *) &rxfs_fetchUfsOps;
1014     }
1015     else {
1016         afs_Trace4(afs_iclSetp, CM_TRACE_MEMFETCH, ICL_TYPE_POINTER, avc,
1017                    ICL_TYPE_POINTER, fP, ICL_TYPE_OFFSET,
1018                    ICL_HANDLE_OFFSET(base), ICL_TYPE_INT32, length);
1019         /*
1020          * We need to alloc the iovecs on the heap so that they are "pinned"
1021          * rather than declare them on the stack - defect 11272
1022          */
1023         v->iov = osi_AllocSmallSpace(sizeof(struct iovec) * RX_MAXIOVECS);
1024         if (!v->iov)
1025             osi_Panic("rxfs_fetchInit: osi_AllocSmallSpace for iovecs returned NULL\n");
1026         *ops = (struct fetchOps *) &rxfs_fetchMemOps;
1027     }
1028     *rock = (void *)v;
1029     return 0;
1030 }
1031
1032
1033 /*!
1034  * Routine called on fetch; also tells people waiting for data
1035  *      that more has arrived.
1036  *
1037  * \param tc Ptr to the Rx connection structure.
1038  * \param fP File descriptor for the cache file.
1039  * \param base Base offset to fetch.
1040  * \param adc Ptr to the dcache entry for the file, write-locked.
1041  * \param avc Ptr to the vcache entry for the file.
1042  * \param size Amount of data that should be fetched.
1043  * \param tsmall Ptr to the afs_FetchOutput structure.
1044  *
1045  * \note Environment: Nothing interesting.
1046  */
1047 int
1048 afs_CacheFetchProc(struct afs_conn *tc, struct osi_file *fP, afs_size_t base,
1049                     struct dcache *adc, struct vcache *avc, afs_int32 size,
1050                     struct afs_FetchOutput *tsmall)
1051 {
1052     afs_int32 code;
1053     afs_uint32 length;
1054     afs_uint32 bytesread, byteswritten;
1055     struct fetchOps *ops = NULL;
1056     void *rock = NULL;
1057     int moredata = 0;
1058     int offset = 0;
1059
1060     XSTATS_DECLS;
1061 #ifndef AFS_NOSTATS
1062     osi_timeval_t xferStartTime;        /*FS xfer start time */
1063     afs_size_t bytesToXfer = 0, bytesXferred = 0;
1064 #endif
1065
1066     AFS_STATCNT(CacheFetchProc);
1067
1068     XSTATS_START_TIME(AFS_STATS_FS_RPCIDX_FETCHDATA);
1069
1070     /*
1071      * Locks held:
1072      * avc->lock(R) if setLocks && !slowPass
1073      * avc->lock(W) if !setLocks || slowPass
1074      * adc->lock(W)
1075      */
1076     code = rxfs_fetchInit(
1077                 tc, avc, base, size, &length, &moredata, adc, fP, &ops, &rock);
1078
1079 #ifndef AFS_NOSTATS
1080     osi_GetuTime(&xferStartTime);
1081 #endif /* AFS_NOSTATS */
1082
1083     if (adc) {
1084         adc->validPos = base;
1085     }
1086
1087     if ( !code ) do {
1088         if ((avc->f.states & CForeign) && moredata && !length) {
1089             code = (*ops->more)(rock, &length, &moredata);
1090             if ( code )
1091                 break;
1092         }
1093 #ifndef AFS_NOSTATS
1094         bytesToXfer += length;
1095 #endif /* AFS_NOSTATS */
1096         while (length) {
1097 #ifdef RX_KERNEL_TRACE
1098             afs_Trace1(afs_iclSetp, CM_TRACE_TIMESTAMP, ICL_TYPE_STRING,
1099                        "before rx_Read");
1100 #endif
1101             code = (*ops->read)(rock, length, &bytesread);
1102 #ifdef RX_KERNEL_TRACE
1103             afs_Trace1(afs_iclSetp, CM_TRACE_TIMESTAMP, ICL_TYPE_STRING,
1104                        "after rx_Read");
1105 #endif
1106 #ifndef AFS_NOSTATS
1107             bytesXferred += bytesread;
1108 #endif /* AFS_NOSTATS */
1109             if ( code ) {
1110                 afs_Trace3(afs_iclSetp, CM_TRACE_FETCH64READ,
1111                            ICL_TYPE_POINTER, avc, ICL_TYPE_INT32, code,
1112                            ICL_TYPE_INT32, length);
1113                 code = -34;
1114                 break;
1115             }
1116             code = (*ops->write)(rock, fP, offset, bytesread, &byteswritten);
1117             if ( code )
1118                 break;
1119             offset += bytesread;
1120             base += bytesread;
1121             length -= bytesread;
1122             adc->validPos = base;
1123             if (afs_osi_Wakeup(&adc->validPos) == 0)
1124                 afs_Trace4(afs_iclSetp, CM_TRACE_DCACHEWAKE, ICL_TYPE_STRING,
1125                            __FILE__, ICL_TYPE_INT32, __LINE__,
1126                            ICL_TYPE_POINTER, adc, ICL_TYPE_INT32,
1127                            adc->dflags);
1128         }
1129         code = 0;
1130     } while (moredata);
1131     if (!code)
1132         code = (*ops->close)(rock, avc, adc, tsmall);
1133     if (ops)
1134         (*ops->destroy)(&rock, code);
1135
1136 #ifndef AFS_NOSTATS
1137     FillStoreStats(code, AFS_STATS_FS_XFERIDX_FETCHDATA, &xferStartTime,
1138                         bytesToXfer, bytesXferred);
1139 #endif
1140     XSTATS_END_TIME;
1141     return code;
1142 }