3dc865bea7ed9a6a291eca01905ef04c1aade38e
[openafs.git] / src / afs / afs_fetchstore.c
1 /*
2  * Copyright 2000, International Business Machines Corporation and others.
3  * All Rights Reserved.
4  *
5  * This software has been released under the terms of the IBM Public
6  * License.  For details, see the LICENSE file in the top-level source
7  * directory or online at http://www.openafs.org/dl/license10.html
8  */
9
10 #include <afsconfig.h>
11 #include "afs/param.h"
12
13 #include "afs/sysincludes.h"    /* Standard vendor system headers */
14 #ifndef AFS_LINUX22_ENV
15 #include "rpc/types.h"
16 #endif
17 #ifdef  AFS_ALPHA_ENV
18 #undef kmem_alloc
19 #undef kmem_free
20 #undef mem_alloc
21 #undef mem_free
22 #endif /* AFS_ALPHA_ENV */
23 #include "afsincludes.h"        /* Afs-based standard headers */
24 #include "afs/afs_stats.h"      /* statistics */
25 #include "afs_prototypes.h"
26
27 extern int cacheDiskType;
28
29 #ifndef AFS_NOSTATS
30 static void
31 FillStoreStats(int code, int idx, osi_timeval_t xferStartTime,
32                afs_size_t bytesToXfer, afs_size_t bytesXferred)
33 {
34     struct afs_stats_xferData *xferP;
35     osi_timeval_t xferStopTime;
36     osi_timeval_t elapsedTime;
37
38     xferP = &(afs_stats_cmfullperf.rpc.fsXferTimes[idx]);
39     osi_GetuTime(&xferStopTime);
40     (xferP->numXfers)++;
41     if (!code) {
42         (xferP->numSuccesses)++;
43         afs_stats_XferSumBytes[idx] += bytesXferred;
44         (xferP->sumBytes) += (afs_stats_XferSumBytes[idx] >> 10);
45         afs_stats_XferSumBytes[idx] &= 0x3FF;
46         if (bytesXferred < xferP->minBytes)
47             xferP->minBytes = bytesXferred;
48         if (bytesXferred > xferP->maxBytes)
49             xferP->maxBytes = bytesXferred;
50
51         /*
52          * Tally the size of the object.  Note: we tally the actual size,
53          * NOT the number of bytes that made it out over the wire.
54          */
55         if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET0) (xferP->count[0])++;
56         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET1) (xferP->count[1])++;
57         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET2) (xferP->count[2])++;
58         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET3) (xferP->count[3])++;
59         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET4) (xferP->count[4])++;
60         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET5) (xferP->count[5])++;
61         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET6) (xferP->count[6])++;
62         else if (bytesToXfer <= AFS_STATS_MAXBYTES_BUCKET7) (xferP->count[7])++;
63         else
64             (xferP->count[8])++;
65
66         afs_stats_GetDiff(elapsedTime, xferStartTime, xferStopTime);
67         afs_stats_AddTo((xferP->sumTime), elapsedTime);
68         afs_stats_SquareAddTo((xferP->sqrTime), elapsedTime);
69         if (afs_stats_TimeLessThan(elapsedTime, (xferP->minTime))) {
70             afs_stats_TimeAssign((xferP->minTime), elapsedTime);
71         }
72         if (afs_stats_TimeGreaterThan(elapsedTime, (xferP->maxTime))) {
73             afs_stats_TimeAssign((xferP->maxTime), elapsedTime);
74         }
75     }
76 }
77 #endif /* AFS_NOSTATS */
78
79 /* rock and operations for RX_FILESERVER */
80
81
82
83 afs_int32
84 rxfs_storeUfsPrepare(void *r, afs_uint32 size, afs_uint32 *tlen)
85 {
86     *tlen = (size > AFS_LRALLOCSIZ ?  AFS_LRALLOCSIZ : size);
87     return 0;
88 }
89
90 afs_int32
91 rxfs_storeMemPrepare(void *r, afs_uint32 size, afs_uint32 *tlen)
92 {
93     afs_int32 code;
94     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *) r;
95
96     RX_AFS_GUNLOCK();
97     code = rx_WritevAlloc(v->call, v->tiov, &v->tnio, RX_MAXIOVECS, size);
98     RX_AFS_GLOCK();
99     if (code <= 0) {
100         code = rx_Error(v->call);
101         if (!code)
102             code = -33;
103     }
104     else {
105         *tlen = code;
106         code = 0;
107     }
108     return code;
109 }
110
111 afs_int32
112 rxfs_storeUfsRead(void *r, struct osi_file *tfile, afs_uint32 offset,
113                   afs_uint32 tlen, afs_uint32 *bytesread)
114 {
115     afs_int32 code;
116     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
117
118     *bytesread = 0;
119     code = afs_osi_Read(tfile, -1, v->tbuffer, tlen);
120     if (code < 0)
121         return EIO;
122     *bytesread = code;
123     if (code == tlen)
124         return 0;
125 #if defined(KERNEL_HAVE_UERROR)
126     if (getuerror())
127         return EIO;
128 #endif
129     return 0;
130 }
131
132 afs_int32
133 rxfs_storeMemRead(void *r, struct osi_file *tfile, afs_uint32 offset,
134                   afs_uint32 tlen, afs_uint32 *bytesread)
135 {
136     afs_int32 code;
137     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
138     struct memCacheEntry *mceP = (struct memCacheEntry *)tfile;
139
140     *bytesread = 0;
141     code = afs_MemReadvBlk(mceP, offset, v->tiov, v->tnio, tlen);
142     if (code != tlen)
143         return -33;
144     *bytesread = code;
145     return 0;
146 }
147
148 afs_int32
149 rxfs_storeMemWrite(void *r, afs_uint32 l, afs_uint32 *byteswritten)
150 {
151     afs_int32 code;
152     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
153
154     RX_AFS_GUNLOCK();
155     code = rx_Writev(v->call, v->tiov, v->tnio, l);
156     RX_AFS_GLOCK();
157     if (code != l) {
158         code = rx_Error(v->call);
159         return (code ? code : -33);
160     }
161     *byteswritten = code;
162     return 0;
163 }
164
165 afs_int32
166 rxfs_storeUfsWrite(void *r, afs_uint32 l, afs_uint32 *byteswritten)
167 {
168     afs_int32 code;
169     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
170
171     RX_AFS_GUNLOCK();
172     code = rx_Write(v->call, v->tbuffer, l);
173         /* writing 0 bytes will
174          * push a short packet.  Is that really what we want, just because the
175          * data didn't come back from the disk yet?  Let's try it and see. */
176     RX_AFS_GLOCK();
177     if (code != l) {
178         code = rx_Error(v->call);
179         return (code ? code : -33);
180     }
181     *byteswritten = code;
182     return 0;
183 }
184
185 afs_int32
186 rxfs_storePadd(void *rock, afs_uint32 size)
187 {
188     afs_int32 code = 0;
189     afs_uint32 tlen;
190     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)rock;
191
192     if (!v->tbuffer)
193         v->tbuffer = osi_AllocLargeSpace(AFS_LRALLOCSIZ);
194     memset(v->tbuffer, 0, AFS_LRALLOCSIZ);
195
196     while (size) {
197         tlen = (size > AFS_LRALLOCSIZ ? AFS_LRALLOCSIZ : size);
198         RX_AFS_GUNLOCK();
199         code = rx_Write(v->call, v->tbuffer, tlen);
200         RX_AFS_GLOCK();
201
202         if (code != tlen)
203             return -33; /* XXX */
204         size -= tlen;
205     }
206     return 0;
207 }
208
209 afs_int32
210 rxfs_storeStatus(void *rock)
211 {
212     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)rock;
213
214     if (rx_GetRemoteStatus(v->call) & 1)
215         return 0;
216     return 1;
217 }
218
219 afs_int32
220 rxfs_storeClose(void *r, struct AFSFetchStatus *OutStatus, int *doProcessFS)
221 {
222     afs_int32 code;
223     struct AFSVolSync tsync;
224     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)r;
225
226     if (!v->call)
227         return -1;
228     RX_AFS_GUNLOCK();
229 #ifdef AFS_64BIT_CLIENT
230     if (!v->hasNo64bit)
231         code = EndRXAFS_StoreData64(v->call, OutStatus, &tsync);
232     else
233 #endif
234         code = EndRXAFS_StoreData(v->call, OutStatus, &tsync);
235     RX_AFS_GLOCK();
236     if (!code)
237         *doProcessFS = 1;       /* Flag to run afs_ProcessFS() later on */
238
239     return code;
240 }
241
242 afs_int32
243 rxfs_storeDestroy(void **r, afs_int32 code)
244 {
245     struct rxfs_storeVariables *v = (struct rxfs_storeVariables *)*r;
246
247     *r = NULL;
248     if (v->call) {
249         RX_AFS_GUNLOCK();
250         code = rx_EndCall(v->call, code);
251         RX_AFS_GLOCK();
252     }
253     if (v->tbuffer)
254         osi_FreeLargeSpace(v->tbuffer);
255     if (v->tiov)
256         osi_FreeSmallSpace(v->tiov);
257     osi_FreeSmallSpace(v);
258     return code;
259 }
260
261 afs_int32
262 afs_GenericStoreProc(struct storeOps *ops, void *rock,
263                      struct dcache *tdc, int *shouldwake,
264                      afs_size_t *bytesXferred)
265 {
266     struct rxfs_storeVariables *svar = rock;
267     afs_uint32 tlen, bytesread, byteswritten;
268     afs_int32 code = 0;
269     int offset = 0;
270     afs_size_t size;
271     struct osi_file *tfile;
272
273     size = tdc->f.chunkBytes;
274
275     tfile = afs_CFileOpen(&tdc->f.inode);
276
277     while ( size > 0 ) {
278         code = (*ops->prepare)(rock, size, &tlen);
279         if ( code )
280             break;
281
282         code = (*ops->read)(rock, tfile, offset, tlen, &bytesread);
283         if (code)
284             break;
285
286         tlen = bytesread;
287         code = (*ops->write)(rock, tlen, &byteswritten);
288         if (code)
289             break;
290 #ifndef AFS_NOSTATS
291         *bytesXferred += byteswritten;
292 #endif /* AFS_NOSTATS */
293
294         offset += tlen;
295         size -= tlen;
296         /*
297          * if file has been locked on server, can allow
298          * store to continue
299          */
300         if (shouldwake && *shouldwake && ((*ops->status)(rock) == 0)) {
301             *shouldwake = 0;    /* only do this once */
302             afs_wakeup(svar->vcache);
303         }
304     }
305     afs_CFileClose(tfile);
306
307     return code;
308 }
309
310 static
311 struct storeOps rxfs_storeUfsOps = {
312 #ifndef HAVE_STRUCT_LABEL_SUPPORT
313     rxfs_storeUfsPrepare,
314     rxfs_storeUfsRead,
315     rxfs_storeUfsWrite,
316     rxfs_storeStatus,
317     rxfs_storePadd,
318     rxfs_storeClose,
319     rxfs_storeDestroy,
320     afs_GenericStoreProc
321 #else
322     .prepare =  rxfs_storeUfsPrepare,
323     .read =     rxfs_storeUfsRead,
324     .write =    rxfs_storeUfsWrite,
325     .status =   rxfs_storeStatus,
326     .padd =     rxfs_storePadd,
327     .close =    rxfs_storeClose,
328     .destroy =  rxfs_storeDestroy,
329 #ifdef AFS_LINUX26_ENV
330     .storeproc = afs_linux_storeproc
331 #else
332     .storeproc = afs_GenericStoreProc
333 #endif
334 #endif
335 };
336
337 static
338 struct storeOps rxfs_storeMemOps = {
339 #ifndef HAVE_STRUCT_LABEL_SUPPORT
340     rxfs_storeMemPrepare,
341     rxfs_storeMemRead,
342     rxfs_storeMemWrite,
343     rxfs_storeStatus,
344     rxfs_storePadd,
345     rxfs_storeClose,
346     rxfs_storeDestroy,
347     afs_GenericStoreProc
348 #else
349     .prepare =  rxfs_storeMemPrepare,
350     .read =     rxfs_storeMemRead,
351     .write =    rxfs_storeMemWrite,
352     .status =   rxfs_storeStatus,
353     .padd =     rxfs_storePadd,
354     .close =    rxfs_storeClose,
355     .destroy =  rxfs_storeDestroy,
356     .storeproc = afs_GenericStoreProc
357 #endif
358 };
359
360 afs_int32
361 rxfs_storeInit(struct vcache *avc, struct afs_conn *tc,
362                 struct rx_connection *rxconn, afs_size_t base,
363                 afs_size_t bytes, afs_size_t length,
364                 int sync, struct storeOps **ops, void **rock)
365 {
366     afs_int32 code;
367     struct rxfs_storeVariables *v;
368
369     if ( !tc )
370         return -1;
371
372     v = osi_AllocSmallSpace(sizeof(struct rxfs_storeVariables));
373     if (!v)
374         osi_Panic("rxfs_storeInit: osi_AllocSmallSpace returned NULL\n");
375     memset(v, 0, sizeof(struct rxfs_storeVariables));
376
377     v->InStatus.ClientModTime = avc->f.m.Date;
378     v->InStatus.Mask = AFS_SETMODTIME;
379     v->vcache = avc;
380     if (sync & AFS_SYNC)
381         v->InStatus.Mask |= AFS_FSYNC;
382     RX_AFS_GUNLOCK();
383     v->call = rx_NewCall(rxconn);
384     if (v->call) {
385 #ifdef AFS_64BIT_CLIENT
386         if (!afs_serverHasNo64Bit(tc))
387             code = StartRXAFS_StoreData64(
388                 v->call, (struct AFSFid*)&avc->f.fid.Fid,
389                 &v->InStatus, base, bytes, length);
390         else {
391             if (length > 0xFFFFFFFF)
392                 code = EFBIG;
393             else {
394                 afs_int32 t1 = base, t2 = bytes, t3 = length;
395                 code = StartRXAFS_StoreData(v->call,
396                                         (struct AFSFid *) &avc->f.fid.Fid,
397                                          &v->InStatus, t1, t2, t3);
398             }
399             v->hasNo64bit = 1;
400         }
401 #else /* AFS_64BIT_CLIENT */
402         code = StartRXAFS_StoreData(v->call, (struct AFSFid *)&avc->f.fid.Fid,
403                                     &v->InStatus, base, bytes, length);
404 #endif /* AFS_64BIT_CLIENT */
405     } else
406         code = -1;
407     RX_AFS_GLOCK();
408     if (code) {
409         osi_FreeSmallSpace(v);
410         return code;
411     }
412     if (cacheDiskType == AFS_FCACHE_TYPE_UFS) {
413         v->tbuffer = osi_AllocLargeSpace(AFS_LRALLOCSIZ);
414         if (!v->tbuffer)
415             osi_Panic
416             ("rxfs_storeInit: osi_AllocLargeSpace for iovecs returned NULL\n");
417         *ops = (struct storeOps *) &rxfs_storeUfsOps;
418     } else {
419         v->tiov = osi_AllocSmallSpace(sizeof(struct iovec) * RX_MAXIOVECS);
420         if (!v->tiov)
421             osi_Panic
422             ("rxfs_storeInit: osi_AllocSmallSpace for iovecs returned NULL\n");
423         *ops = (struct storeOps *) &rxfs_storeMemOps;
424 #ifdef notdef
425         /* do this at a higher level now -- it's a parameter */
426         /* for now, only do 'continue from close' code if file fits in one
427          * chunk.  Could clearly do better: if only one modified chunk
428          * then can still do this.  can do this on *last* modified chunk */
429         length = avc->f.m.Length - 1; /* byte position of last byte we'll store */
430         if (shouldWake) {
431             if (AFS_CHUNK(length) != 0)
432                 *shouldWake = 0;
433             else
434                 *shouldWake = 1;
435         }
436 #endif /* notdef */
437     }
438
439     *rock = (void *)v;
440     return 0;
441 }
442 unsigned int storeallmissing = 0;
443 /*!
444  *      Called for each chunk upon store.
445  *
446  * \param avc Ptr to the vcache entry of the file being stored.
447  * \param dclist pointer to the list of dcaches
448  * \param bytes total number of bytes for the current operation
449  * \param anewDV Ptr to the dataversion after store
450  * \param doProcessFS pointer to the "do process FetchStatus" flag
451  * \param OutStatus pointer to the FetchStatus as returned by the fileserver
452  * \param nchunks number of dcaches to consider
453  * \param nomore copy of the "no more data" flag
454  * \param ops pointer to the block of storeOps to be used for this operation
455  * \param rock pointer to the opaque protocol-specific data of this operation
456  */
457 afs_int32
458 afs_CacheStoreDCaches(struct vcache *avc, struct dcache **dclist,
459                       afs_size_t bytes, afs_hyper_t *anewDV, int *doProcessFS,
460                       struct AFSFetchStatus *OutStatus, afs_uint32 nchunks,
461                       int nomore, struct storeOps *ops, void *rock)
462 {
463     int *shouldwake = NULL;
464     unsigned int i;
465     int stored = 0;
466     afs_int32 code = 0;
467     afs_size_t bytesXferred;
468
469 #ifndef AFS_NOSTATS
470     osi_timeval_t xferStartTime;        /*FS xfer start time */
471     afs_size_t bytesToXfer = 10000;     /* # bytes to xfer */
472 #endif /* AFS_NOSTATS */
473     XSTATS_DECLS;
474     osi_Assert(nchunks != 0);
475
476     for (i = 0; i < nchunks && !code; i++) {
477         struct dcache *tdc = dclist[i];
478         afs_int32 size;
479
480         if (!tdc) {
481             afs_warn("afs: missing dcache!\n");
482             storeallmissing++;
483             continue;   /* panic? */
484         }
485         size = tdc->f.chunkBytes;
486         afs_Trace4(afs_iclSetp, CM_TRACE_STOREALL2, ICL_TYPE_POINTER, avc,
487                     ICL_TYPE_INT32, tdc->f.chunk, ICL_TYPE_INT32, tdc->index,
488                     ICL_TYPE_INT32, afs_inode2trace(&tdc->f.inode));
489         shouldwake = 0;
490         if (nomore) {
491             if (avc->asynchrony == -1) {
492                 if (afs_defaultAsynchrony > (bytes - stored))
493                     shouldwake = &nomore;
494             }
495             else if ((afs_uint32) avc->asynchrony >= (bytes - stored))
496                 shouldwake = &nomore;
497         }
498
499         afs_Trace4(afs_iclSetp, CM_TRACE_STOREPROC, ICL_TYPE_POINTER, avc,
500                     ICL_TYPE_FID, &(avc->f.fid), ICL_TYPE_OFFSET,
501                     ICL_HANDLE_OFFSET(avc->f.m.Length), ICL_TYPE_INT32, size);
502
503         AFS_STATCNT(CacheStoreProc);
504
505         XSTATS_START_TIME(AFS_STATS_FS_RPCIDX_STOREDATA);
506         avc->f.truncPos = AFS_NOTRUNC;
507 #ifndef AFS_NOSTATS
508         /*
509          * In this case, size is *always* the amount of data we'll be trying
510          * to ship here.
511          */
512         bytesToXfer = size;
513
514         osi_GetuTime(&xferStartTime);
515 #endif /* AFS_NOSTATS */
516         bytesXferred = 0;
517
518         code = (*ops->storeproc)(ops, rock, tdc, shouldwake,
519                                      &bytesXferred);
520
521         afs_Trace4(afs_iclSetp, CM_TRACE_STOREPROC, ICL_TYPE_POINTER, avc,
522                     ICL_TYPE_FID, &(avc->f.fid), ICL_TYPE_OFFSET,
523                     ICL_HANDLE_OFFSET(avc->f.m.Length), ICL_TYPE_INT32, size);
524
525 #ifndef AFS_NOSTATS
526         FillStoreStats(code, AFS_STATS_FS_XFERIDX_STOREDATA,
527                     xferStartTime, bytesToXfer, bytesXferred);
528 #endif /* AFS_NOSTATS */
529
530         if ((tdc->f.chunkBytes < afs_OtherCSize)
531                 && (i < (nchunks - 1)) && code == 0) {
532             code = (*ops->padd)(rock, afs_OtherCSize - tdc->f.chunkBytes);
533         }
534         stored += tdc->f.chunkBytes;
535         /* ideally, I'd like to unlock the dcache and turn
536          * off the writing bit here, but that would
537          * require being able to retry StoreAllSegments in
538          * the event of a failure. It only really matters
539          * if user can't read from a 'locked' dcache or
540          * one which has the writing bit turned on. */
541     }
542
543     if (!code) {
544         code = (*ops->close)(rock, OutStatus, doProcessFS);
545         /* if this succeeds, dv has been bumped. */
546         if (*doProcessFS) {
547             hadd32(*anewDV, 1);
548         }
549         XSTATS_END_TIME;
550     }
551     if (ops)
552         code = (*ops->destroy)(&rock, code);
553
554     /* if we errored, can't trust this. */
555     if (code)
556         *doProcessFS = 0;
557
558     return code;
559 }
560
561 #define lmin(a,b) (((a) < (b)) ? (a) : (b))
562 /*!
563  *      Called upon store.
564  *
565  * \param dclist pointer to the list of dcaches
566  * \param avc Ptr to the vcache entry.
567  * \param areq Ptr to the request structure
568  * \param sync sync flag
569  * \param minj the chunk offset for this call
570  * \param high index of last dcache to store
571  * \param moredata the moredata flag
572  * \param anewDV Ptr to the dataversion after store
573  * \param amaxStoredLength Ptr to the amount of that is actually stored
574  *
575  * \note Environment: Nothing interesting.
576  */
577 int
578 afs_CacheStoreVCache(struct dcache **dcList, struct vcache *avc,
579                      struct vrequest *areq, int sync, unsigned int minj,
580                      unsigned int high, unsigned int moredata,
581                      afs_hyper_t *anewDV, afs_size_t *amaxStoredLength)
582 {
583     afs_int32 code = 0;
584     struct storeOps *ops;
585     void * rock = NULL;
586     unsigned int i, j;
587
588     struct AFSFetchStatus OutStatus;
589     int doProcessFS = 0;
590     afs_size_t base, bytes, length;
591     int nomore;
592     unsigned int first = 0;
593     struct afs_conn *tc;
594     struct rx_connection *rxconn;
595
596     for (bytes = 0, j = 0; !code && j <= high; j++) {
597         if (dcList[j]) {
598             ObtainSharedLock(&(dcList[j]->lock), 629);
599             if (!bytes)
600                 first = j;
601             bytes += dcList[j]->f.chunkBytes;
602             if ((dcList[j]->f.chunkBytes < afs_OtherCSize)
603                         && (dcList[j]->f.chunk - minj < high)
604                         && dcList[j + 1]) {
605                 int sbytes = afs_OtherCSize - dcList[j]->f.chunkBytes;
606                 bytes += sbytes;
607             }
608         }
609         if (bytes && (j == high || !dcList[j + 1])) {
610             afs_uint32 nchunks;
611             struct dcache **dclist = &dcList[first];
612             /* base = AFS_CHUNKTOBASE(dcList[first]->f.chunk); */
613             base = AFS_CHUNKTOBASE(first + minj);
614             /*
615              *
616              * take a list of dcache structs and send them all off to the server
617              * the list must be in order, and the chunks contiguous.
618              * Note - there is no locking done by this code currently.  For
619              * safety's sake, xdcache could be locked over the entire call.
620              * However, that pretty well ties up all the threads.  Meantime, all
621              * the chunks _MUST_ have their refcounts bumped.
622              * The writes done before a store back will clear setuid-ness
623              * in cache file.
624              * We can permit CacheStoreProc to wake up the user process IFF we
625              * are doing the last RPC for this close, ie, storing back the last
626              * set of contiguous chunks of a file.
627              */
628
629             nchunks = 1 + j - first;
630             nomore = !(moredata || (j != high));
631             length = lmin(avc->f.m.Length, avc->f.truncPos);
632             afs_Trace4(afs_iclSetp, CM_TRACE_STOREDATA64,
633                        ICL_TYPE_FID, &avc->f.fid.Fid, ICL_TYPE_OFFSET,
634                        ICL_HANDLE_OFFSET(base), ICL_TYPE_OFFSET,
635                        ICL_HANDLE_OFFSET(bytes), ICL_TYPE_OFFSET,
636                        ICL_HANDLE_OFFSET(length));
637
638             do {
639                 tc = afs_Conn(&avc->f.fid, areq, 0, &rxconn);
640
641 #ifdef AFS_64BIT_CLIENT
642               restart:
643 #endif
644                 code = rxfs_storeInit(avc, tc, rxconn, base, bytes, length,
645                                       sync, &ops, &rock);
646                 if ( !code ) {
647                     code = afs_CacheStoreDCaches(avc, dclist, bytes, anewDV,
648                                                  &doProcessFS, &OutStatus,
649                                                  nchunks, nomore, ops, rock);
650                 }
651
652 #ifdef AFS_64BIT_CLIENT
653                 if (code == RXGEN_OPCODE && !afs_serverHasNo64Bit(tc)) {
654                     afs_serverSetNo64Bit(tc);
655                     goto restart;
656                 }
657 #endif /* AFS_64BIT_CLIENT */
658             } while (afs_Analyze
659                      (tc, rxconn, code, &avc->f.fid, areq,
660                       AFS_STATS_FS_RPCIDX_STOREDATA, SHARED_LOCK,
661                       NULL));
662
663             /* put back all remaining locked dcache entries */
664             for (i = 0; i < nchunks; i++) {
665                 struct dcache *tdc = dclist[i];
666                 if (!code) {
667                     if (afs_indexFlags[tdc->index] & IFDataMod) {
668                         /*
669                          * LOCKXXX -- should hold afs_xdcache(W) when
670                          * modifying afs_indexFlags.
671                          */
672                         afs_indexFlags[tdc->index] &= ~IFDataMod;
673                         afs_stats_cmperf.cacheCurrDirtyChunks--;
674                         afs_indexFlags[tdc->index] &= ~IFDirtyPages;
675                         if (sync & AFS_VMSYNC_INVAL) {
676                             /* since we have invalidated all the pages of this
677                              ** vnode by calling osi_VM_TryToSmush, we can
678                              ** safely mark this dcache entry as not having
679                              ** any pages. This vnode now becomes eligible for
680                              ** reclamation by getDownD.
681                              */
682                             afs_indexFlags[tdc->index] &= ~IFAnyPages;
683                         }
684                     }
685                 }
686                 UpgradeSToWLock(&tdc->lock, 628);
687                 tdc->f.states &= ~DWriting;     /* correct? */
688                 tdc->dflags |= DFEntryMod;
689                 ReleaseWriteLock(&tdc->lock);
690                 afs_PutDCache(tdc);
691                 /* Mark the entry as released */
692                 dclist[i] = NULL;
693             }
694
695             if (doProcessFS) {
696                 /* Now copy out return params */
697                 UpgradeSToWLock(&avc->lock, 28);        /* keep out others for a while */
698                 afs_ProcessFS(avc, &OutStatus, areq);
699                 /* Keep last (max) size of file on server to see if
700                  * we need to call afs_StoreMini to extend the file.
701                  */
702                 if (!moredata)
703                     *amaxStoredLength = OutStatus.Length;
704                 ConvertWToSLock(&avc->lock);
705                 doProcessFS = 0;
706             }
707
708             if (code) {
709                 for (j++; j <= high; j++) {
710                     if (dcList[j]) {
711                         ReleaseSharedLock(&(dcList[j]->lock));
712                         afs_PutDCache(dcList[j]);
713                         /* Releasing entry */
714                         dcList[j] = NULL;
715                     }
716                 }
717             }
718
719             afs_Trace2(afs_iclSetp, CM_TRACE_STOREALLDCDONE,
720                        ICL_TYPE_POINTER, avc, ICL_TYPE_INT32, code);
721             bytes = 0;
722         }
723     }
724
725     return code;
726 }
727
728 /* rock and operations for RX_FILESERVER */
729
730 struct rxfs_fetchVariables {
731     struct rx_call *call;
732     char *tbuffer;
733     struct iovec *iov;
734     afs_int32 nio;
735     afs_int32 hasNo64bit;
736     afs_int32 iovno;
737     afs_int32 iovmax;
738 };
739
740 afs_int32
741 rxfs_fetchUfsRead(void *r, afs_uint32 size, afs_uint32 *bytesread)
742 {
743     afs_int32 code;
744     afs_uint32 tlen;
745     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
746
747     *bytesread = 0;
748     tlen = (size > AFS_LRALLOCSIZ ?  AFS_LRALLOCSIZ : size);
749     RX_AFS_GUNLOCK();
750     code = rx_Read(v->call, v->tbuffer, tlen);
751     RX_AFS_GLOCK();
752     if (code <= 0)
753         return -34;
754     *bytesread = code;
755     return 0;
756 }
757
758 afs_int32
759 rxfs_fetchMemRead(void *r, afs_uint32 tlen, afs_uint32 *bytesread)
760 {
761     afs_int32 code;
762     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
763
764     *bytesread = 0;
765     RX_AFS_GUNLOCK();
766     code = rx_Readv(v->call, v->iov, &v->nio, RX_MAXIOVECS, tlen);
767     RX_AFS_GLOCK();
768     if (code <= 0)
769         return -34;
770     *bytesread = code;
771     return 0;
772 }
773
774
775 afs_int32
776 rxfs_fetchMemWrite(void *r, struct osi_file *fP, afs_uint32 offset,
777                    afs_uint32 tlen, afs_uint32 *byteswritten)
778 {
779     afs_int32 code;
780     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
781     struct memCacheEntry *mceP = (struct memCacheEntry *)fP;
782
783     code = afs_MemWritevBlk(mceP, offset, v->iov, v->nio, tlen);
784     if (code != tlen) {
785         return EIO;
786     }
787     *byteswritten = code;
788     return 0;
789 }
790
791 afs_int32
792 rxfs_fetchUfsWrite(void *r, struct osi_file *fP, afs_uint32 offset,
793                    afs_uint32 tlen, afs_uint32 *byteswritten)
794 {
795     afs_int32 code;
796     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
797
798     code = afs_osi_Write(fP, -1, v->tbuffer, tlen);
799     if (code != tlen) {
800         return EIO;
801     }
802     *byteswritten = code;
803     return 0;
804 }
805
806
807 afs_int32
808 rxfs_fetchClose(void *r, struct vcache *avc, struct dcache * adc,
809                 struct afs_FetchOutput *o)
810 {
811     afs_int32 code;
812     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
813
814     if (!v->call)
815         return -1;
816
817     RX_AFS_GUNLOCK();
818 #ifdef AFS_64BIT_CLIENT
819     if (!v->hasNo64bit)
820         code = EndRXAFS_FetchData64(v->call, &o->OutStatus, &o->CallBack,
821                                 &o->tsync);
822     else
823 #endif
824         code = EndRXAFS_FetchData(v->call, &o->OutStatus, &o->CallBack,
825                                 &o->tsync);
826     code = rx_EndCall(v->call, code);
827     RX_AFS_GLOCK();
828
829     v->call = NULL;
830
831     return code;
832 }
833
834 afs_int32
835 rxfs_fetchDestroy(void **r, afs_int32 code)
836 {
837     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)*r;
838
839     *r = NULL;
840     if (v->call) {
841         RX_AFS_GUNLOCK();
842         code = rx_EndCall(v->call, code);
843         RX_AFS_GLOCK();
844     }
845     if (v->tbuffer)
846         osi_FreeLargeSpace(v->tbuffer);
847     if (v->iov)
848         osi_FreeSmallSpace(v->iov);
849     osi_FreeSmallSpace(v);
850     return code;
851 }
852
853 afs_int32
854 rxfs_fetchMore(void *r, afs_int32 *length, afs_uint32 *moredata)
855 {
856     afs_int32 code;
857     struct rxfs_fetchVariables *v = (struct rxfs_fetchVariables *)r;
858
859     /*
860      * The fetch protocol is extended for the AFS/DFS translator
861      * to allow multiple blocks of data, each with its own length,
862      * to be returned. As long as the top bit is set, there are more
863      * blocks expected.
864      *
865      * We do not do this for AFS file servers because they sometimes
866      * return large negative numbers as the transfer size.
867      */
868     if (*moredata) {
869         RX_AFS_GUNLOCK();
870         code = rx_Read(v->call, (void *)length, sizeof(afs_int32));
871         RX_AFS_GLOCK();
872         *length = ntohl(*length);
873         if (code != sizeof(afs_int32)) {
874             code = rx_Error(v->call);
875             *moredata = 0;
876             return (code ? code : -1);  /* try to return code, not -1 */
877         }
878     }
879     *moredata = *length & 0x80000000;
880     *length &= ~0x80000000;
881     return 0;
882 }
883
884 static
885 struct fetchOps rxfs_fetchUfsOps = {
886     rxfs_fetchMore,
887     rxfs_fetchUfsRead,
888     rxfs_fetchUfsWrite,
889     rxfs_fetchClose,
890     rxfs_fetchDestroy
891 };
892
893 static
894 struct fetchOps rxfs_fetchMemOps = {
895     rxfs_fetchMore,
896     rxfs_fetchMemRead,
897     rxfs_fetchMemWrite,
898     rxfs_fetchClose,
899     rxfs_fetchDestroy
900 };
901
902 afs_int32
903 rxfs_fetchInit(struct afs_conn *tc, struct rx_connection *rxconn,
904                struct vcache *avc, afs_offs_t base,
905                afs_uint32 size, afs_int32 *alength, struct dcache *adc,
906                struct osi_file *fP, struct fetchOps **ops, void **rock)
907 {
908     struct rxfs_fetchVariables *v;
909     int code = 0;
910 #ifdef AFS_64BIT_CLIENT
911     afs_uint32 length_hi = 0;
912 #endif
913     afs_uint32 length = 0, bytes;
914
915     v = (struct rxfs_fetchVariables *)
916             osi_AllocSmallSpace(sizeof(struct rxfs_fetchVariables));
917     if (!v)
918         osi_Panic("rxfs_fetchInit: osi_AllocSmallSpace returned NULL\n");
919     memset(v, 0, sizeof(struct rxfs_fetchVariables));
920
921     RX_AFS_GUNLOCK();
922     v->call = rx_NewCall(rxconn);
923     RX_AFS_GLOCK();
924     if (v->call) {
925 #ifdef AFS_64BIT_CLIENT
926         afs_size_t length64;     /* as returned from server */
927         if (!afs_serverHasNo64Bit(tc)) {
928             afs_uint64 llbytes = size;
929             RX_AFS_GUNLOCK();
930             code = StartRXAFS_FetchData64(v->call,
931                                           (struct AFSFid *) &avc->f.fid.Fid,
932                                           base, llbytes);
933             if (code != 0) {
934                 RX_AFS_GLOCK();
935                 afs_Trace2(afs_iclSetp, CM_TRACE_FETCH64CODE,
936                                ICL_TYPE_POINTER, avc, ICL_TYPE_INT32, code);
937             } else {
938                 bytes = rx_Read(v->call, (char *)&length_hi, sizeof(afs_int32));
939                 RX_AFS_GLOCK();
940                 if (bytes == sizeof(afs_int32)) {
941                     length_hi = ntohl(length_hi);
942                 } else {
943                     RX_AFS_GUNLOCK();
944                     code = rx_EndCall(v->call, RX_PROTOCOL_ERROR);
945                     RX_AFS_GLOCK();
946                     v->call = NULL;
947                 }
948             }
949         }
950         if (code == RXGEN_OPCODE || afs_serverHasNo64Bit(tc)) {
951             if (base > 0x7FFFFFFF) {
952                 code = EFBIG;
953             } else {
954                 afs_uint32 pos;
955                 pos = base;
956                 RX_AFS_GUNLOCK();
957                 if (!v->call)
958                     v->call = rx_NewCall(rxconn);
959                 code =
960                     StartRXAFS_FetchData(
961                                 v->call, (struct AFSFid*)&avc->f.fid.Fid,
962                                 pos, size);
963                 RX_AFS_GLOCK();
964             }
965             afs_serverSetNo64Bit(tc);
966             v->hasNo64bit = 1;
967         }
968         if (!code) {
969             RX_AFS_GUNLOCK();
970             bytes = rx_Read(v->call, (char *)&length, sizeof(afs_int32));
971             RX_AFS_GLOCK();
972             if (bytes == sizeof(afs_int32))
973                 length = ntohl(length);
974             else {
975                 RX_AFS_GUNLOCK();
976                 code = rx_EndCall(v->call, RX_PROTOCOL_ERROR);
977                 v->call = NULL;
978                 length = 0;
979                 RX_AFS_GLOCK();
980             }
981         }
982         FillInt64(length64, length_hi, length);
983         afs_Trace3(afs_iclSetp, CM_TRACE_FETCH64LENG,
984                    ICL_TYPE_POINTER, avc, ICL_TYPE_INT32, code,
985                    ICL_TYPE_OFFSET,
986                    ICL_HANDLE_OFFSET(length64));
987         if (!code)
988             *alength = length;
989 #else /* AFS_64BIT_CLIENT */
990         RX_AFS_GUNLOCK();
991         code = StartRXAFS_FetchData(v->call, (struct AFSFid *)&avc->f.fid.Fid,
992                                      base, size);
993         RX_AFS_GLOCK();
994         if (code == 0) {
995             RX_AFS_GUNLOCK();
996             bytes =
997                 rx_Read(v->call, (char *)&length, sizeof(afs_int32));
998             RX_AFS_GLOCK();
999             if (bytes == sizeof(afs_int32)) {
1000                 *alength = ntohl(length);
1001             } else {
1002                 code = rx_EndCall(v->call, RX_PROTOCOL_ERROR);
1003                 v->call = NULL;
1004             }
1005         }
1006 #endif /* AFS_64BIT_CLIENT */
1007     } else
1008         code = -1;
1009
1010     /* We need to cast here, in order to avoid issues if *alength is
1011      * negative. Some, older, fileservers can return a negative length,
1012      * which the rest of the code deals correctly with. */
1013     if (code == 0 && *alength > (afs_int32) size) {
1014         /* The fileserver told us it is going to send more data than we
1015          * requested. It shouldn't do that, and accepting that much data
1016          * can make us take up more cache space than we're supposed to,
1017          * so error. */
1018         RX_AFS_GUNLOCK();
1019         code = rx_EndCall(v->call, RX_PROTOCOL_ERROR);
1020         RX_AFS_GLOCK();
1021         v->call = NULL;
1022         code = EIO;
1023     }
1024
1025     if (code) {
1026         osi_FreeSmallSpace(v);
1027         return code;
1028     }
1029     if (cacheDiskType == AFS_FCACHE_TYPE_UFS) {
1030         v->tbuffer = osi_AllocLargeSpace(AFS_LRALLOCSIZ);
1031         if (!v->tbuffer)
1032             osi_Panic("rxfs_fetchInit: osi_AllocLargeSpace for iovecs returned NULL\n");
1033         osi_Assert(WriteLocked(&adc->lock));
1034         fP->offset = 0;
1035         *ops = (struct fetchOps *) &rxfs_fetchUfsOps;
1036     }
1037     else {
1038         afs_Trace4(afs_iclSetp, CM_TRACE_MEMFETCH, ICL_TYPE_POINTER, avc,
1039                    ICL_TYPE_POINTER, fP, ICL_TYPE_OFFSET,
1040                    ICL_HANDLE_OFFSET(base), ICL_TYPE_INT32, length);
1041         /*
1042          * We need to alloc the iovecs on the heap so that they are "pinned"
1043          * rather than declare them on the stack - defect 11272
1044          */
1045         v->iov = osi_AllocSmallSpace(sizeof(struct iovec) * RX_MAXIOVECS);
1046         if (!v->iov)
1047             osi_Panic("rxfs_fetchInit: osi_AllocSmallSpace for iovecs returned NULL\n");
1048         *ops = (struct fetchOps *) &rxfs_fetchMemOps;
1049     }
1050     *rock = (void *)v;
1051     return 0;
1052 }
1053
1054
1055 /*!
1056  * Routine called on fetch; also tells people waiting for data
1057  *      that more has arrived.
1058  *
1059  * \param tc Ptr to the AFS connection structure.
1060  * \param rxconn Ptr to the Rx connection structure.
1061  * \param fP File descriptor for the cache file.
1062  * \param base Base offset to fetch.
1063  * \param adc Ptr to the dcache entry for the file, write-locked.
1064  * \param avc Ptr to the vcache entry for the file.
1065  * \param size Amount of data that should be fetched.
1066  * \param tsmall Ptr to the afs_FetchOutput structure.
1067  *
1068  * \note Environment: Nothing interesting.
1069  */
1070 int
1071 afs_CacheFetchProc(struct afs_conn *tc, struct rx_connection *rxconn,
1072                    struct osi_file *fP, afs_size_t base,
1073                    struct dcache *adc, struct vcache *avc, afs_int32 size,
1074                    struct afs_FetchOutput *tsmall)
1075 {
1076     afs_int32 code;
1077     afs_int32 length;
1078     afs_uint32 bytesread, byteswritten;
1079     struct fetchOps *ops = NULL;
1080     void *rock = NULL;
1081     afs_uint32 moredata = 0;
1082     int offset = 0;
1083
1084     XSTATS_DECLS;
1085 #ifndef AFS_NOSTATS
1086     osi_timeval_t xferStartTime;        /*FS xfer start time */
1087     afs_size_t bytesToXfer = 0, bytesXferred = 0;
1088 #endif
1089
1090     AFS_STATCNT(CacheFetchProc);
1091
1092     XSTATS_START_TIME(AFS_STATS_FS_RPCIDX_FETCHDATA);
1093
1094     /*
1095      * Locks held:
1096      * avc->lock(R) if setLocks && !slowPass
1097      * avc->lock(W) if !setLocks || slowPass
1098      * adc->lock(W)
1099      */
1100     code = rxfs_fetchInit(
1101                 tc, rxconn, avc, base, size, &length, adc, fP, &ops, &rock);
1102
1103 #ifndef AFS_NOSTATS
1104     osi_GetuTime(&xferStartTime);
1105 #endif /* AFS_NOSTATS */
1106
1107     adc->validPos = base;
1108
1109     if ( !code ) do {
1110         if (avc->f.states & CForeign) {
1111             code = (*ops->more)(rock, &length, &moredata);
1112             if ( code )
1113                 break;
1114         }
1115 #ifndef AFS_NOSTATS
1116         bytesToXfer += length;
1117 #endif /* AFS_NOSTATS */
1118         while (length > 0) {
1119 #ifdef RX_KERNEL_TRACE
1120             afs_Trace1(afs_iclSetp, CM_TRACE_TIMESTAMP, ICL_TYPE_STRING,
1121                        "before rx_Read");
1122 #endif
1123             code = (*ops->read)(rock, length, &bytesread);
1124 #ifdef RX_KERNEL_TRACE
1125             afs_Trace1(afs_iclSetp, CM_TRACE_TIMESTAMP, ICL_TYPE_STRING,
1126                        "after rx_Read");
1127 #endif
1128 #ifndef AFS_NOSTATS
1129             bytesXferred += bytesread;
1130 #endif /* AFS_NOSTATS */
1131             if ( code ) {
1132                 afs_Trace3(afs_iclSetp, CM_TRACE_FETCH64READ,
1133                            ICL_TYPE_POINTER, avc, ICL_TYPE_INT32, code,
1134                            ICL_TYPE_INT32, length);
1135                 code = -34;
1136                 break;
1137             }
1138             code = (*ops->write)(rock, fP, offset, bytesread, &byteswritten);
1139             if ( code )
1140                 break;
1141             offset += bytesread;
1142             base += bytesread;
1143             length -= bytesread;
1144             adc->validPos = base;
1145             if (afs_osi_Wakeup(&adc->validPos) == 0)
1146                 afs_Trace4(afs_iclSetp, CM_TRACE_DCACHEWAKE, ICL_TYPE_STRING,
1147                            __FILE__, ICL_TYPE_INT32, __LINE__,
1148                            ICL_TYPE_POINTER, adc, ICL_TYPE_INT32,
1149                            adc->dflags);
1150         }
1151         code = 0;
1152     } while (moredata);
1153     if (!code)
1154         code = (*ops->close)(rock, avc, adc, tsmall);
1155     if (ops)
1156         code = (*ops->destroy)(&rock, code);
1157
1158 #ifndef AFS_NOSTATS
1159     FillStoreStats(code, AFS_STATS_FS_XFERIDX_FETCHDATA, xferStartTime,
1160                         bytesToXfer, bytesXferred);
1161 #endif
1162     XSTATS_END_TIME;
1163     return code;
1164 }