Linux: always use afs_maybe_unlock_kernel
[openafs.git] / src / afs / LINUX / osi_vnodeops.c
index 44be030..553e070 100644 (file)
 #include "osi_compat.h"
 #include "osi_pagecopy.h"
 
-#ifdef pgoff2loff
-#define pageoff(pp) pgoff2loff((pp)->index)
-#else
-#define pageoff(pp) pp->offset
-#endif
-
 #ifndef HAVE_PAGEVEC_LRU_ADD_FILE
 #define __pagevec_lru_add_file __pagevec_lru_add
 #endif
@@ -55,8 +49,6 @@
 #define MAX_ERRNO 1000L
 #endif
 
-#define LockPage(pp) lock_page(pp)
-#define UnlockPage(pp) unlock_page(pp)
 extern struct backing_dev_info afs_backing_dev_info;
 
 extern struct vcache *afs_globalVp;
@@ -444,6 +436,12 @@ afs_linux_release(struct inode *ip, struct file *fp)
     afs_maybe_lock_kernel();
     AFS_GLOCK();
     code = afs_close(vcp, fp->f_flags, credp);
+    ObtainWriteLock(&vcp->lock, 807);
+    if (vcp->cred) {
+       crfree(vcp->cred);
+       vcp->cred = NULL;
+    }
+    ReleaseWriteLock(&vcp->lock);
     AFS_GUNLOCK();
     afs_maybe_unlock_kernel();
 
@@ -478,7 +476,7 @@ afs_linux_lock(struct file *fp, int cmd, struct file_lock *flp)
     struct AFS_FLOCK flock;
     
     /* Convert to a lock format afs_lockctl understands. */
-    memset((char *)&flock, 0, sizeof(flock));
+    memset(&flock, 0, sizeof(flock));
     flock.l_type = flp->fl_type;
     flock.l_pid = flp->fl_pid;
     flock.l_whence = 0;
@@ -541,7 +539,7 @@ afs_linux_flock(struct file *fp, int cmd, struct file_lock *flp) {
     cred_t *credp = crref();
     struct AFS_FLOCK flock;
     /* Convert to a lock format afs_lockctl understands. */
-    memset((char *)&flock, 0, sizeof(flock));
+    memset(&flock, 0, sizeof(flock));
     flock.l_type = flp->fl_type;
     flock.l_pid = flp->fl_pid;
     flock.l_whence = 0;
@@ -1075,7 +1073,7 @@ afs_linux_lookup(struct inode *dip, struct dentry *dp)
                dput(alias);
            } else {
                iput(ip);
-               unlock_kernel();
+               afs_maybe_unlock_kernel();
                crfree(credp);
                return alias;
            }
@@ -1453,7 +1451,7 @@ afs_linux_read_cache(struct file *cachefp, struct page *page,
            SetPageUptodate(page);
 
            if (task)
-               UnlockPage(page);
+               unlock_page(page);
         } else if (task) {
            afs_pagecopy_queue_page(task, cachepage, page);
        } else {
@@ -1462,7 +1460,7 @@ afs_linux_read_cache(struct file *cachefp, struct page *page,
     }
 
     if (code && task) {
-        UnlockPage(page);
+        unlock_page(page);
     }
 
 out:
@@ -1693,7 +1691,7 @@ afs_linux_bypass_readpages(struct file *fp, struct address_space *mapping,
     afs_offs_t offset;
     struct iovec* iovecp;
     struct nocache_read_request *ancr;
-    struct page *pp, *ppt;
+    struct page *pp;
     struct pagevec lrupv;
     afs_int32 code = 0;
 
@@ -1733,12 +1731,12 @@ afs_linux_bypass_readpages(struct file *fp, struct address_space *mapping,
        isize = (i_size_read(fp->f_mapping->host) - 1) >> PAGE_CACHE_SHIFT;
        if(pp->index > isize) {
            if(PageLocked(pp))
-               UnlockPage(pp);
+               unlock_page(pp);
            continue;
        }
 
        if(page_ix == 0) {
-           offset = ((lof_t) pp->index) << PAGE_CACHE_SHIFT;
+           offset = page_offset(pp);
            auio->uio_offset = offset;
            base_index = pp->index;
        }
@@ -1746,7 +1744,7 @@ afs_linux_bypass_readpages(struct file *fp, struct address_space *mapping,
         code = add_to_page_cache(pp, mapping, pp->index, GFP_KERNEL);
         if(base_index != pp->index) {
             if(PageLocked(pp))
-                                UnlockPage(pp);
+                unlock_page(pp);
             page_cache_release(pp);
            iovecp[page_ix].iov_base = (void *) 0;
            base_index++;
@@ -1755,13 +1753,13 @@ afs_linux_bypass_readpages(struct file *fp, struct address_space *mapping,
         base_index++;
         if(code) {
            if(PageLocked(pp))
-               UnlockPage(pp);
+               unlock_page(pp);
            page_cache_release(pp);
            iovecp[page_ix].iov_base = (void *) 0;
        } else {
            page_count++;
            if(!PageLocked(pp)) {
-               LockPage(pp);
+               lock_page(pp);
            }
 
            /* save the page for background map */
@@ -1790,7 +1788,6 @@ afs_linux_bypass_readpages(struct file *fp, struct address_space *mapping,
     /* we do not flush, release, or unmap pages--that will be
      * done for us by the background thread as each page comes in
      * from the fileserver */
-out:
     return afs_convert_code(code);
 }
 
@@ -1802,23 +1799,16 @@ afs_linux_bypass_readpage(struct file *fp, struct page *pp)
     uio_t *auio;
     struct iovec *iovecp;
     struct nocache_read_request *ancr;
-    afs_int32 isize;
+    int code;
 
     ClearPageError(pp);
 
-    /* If the page is past the end of the file, skip it */
-    isize = (i_size_read(fp->f_mapping->host) - 1) >> PAGE_CACHE_SHIFT;
-    if(pp->index > isize) {
-       if (PageLocked(pp))
-           UnlockPage(pp);
-       return 0;
-    }
     /* receiver frees */
     auio = osi_Alloc(sizeof(uio_t));
     iovecp = osi_Alloc(sizeof(struct iovec));
 
     /* address can be NULL, because we overwrite it with 'pp', below */
-    setup_uio(auio, iovecp, NULL, (pp->index << PAGE_CACHE_SHIFT),
+    setup_uio(auio, iovecp, NULL, page_offset(pp),
              PAGE_SIZE, UIO_READ, AFS_UIOSYS);
 
     /* save the page for background map */
@@ -1827,7 +1817,7 @@ afs_linux_bypass_readpage(struct file *fp, struct page *pp)
     /* the background thread will free this */
     ancr = osi_Alloc(sizeof(struct nocache_read_request));
     ancr->auio = auio;
-    ancr->offset = offset;
+    ancr->offset = page_offset(pp);
     ancr->length = PAGE_SIZE;
 
     credp = crref();
@@ -1850,8 +1840,8 @@ afs_linux_can_bypass(struct inode *ip) {
            if(i_size_read(ip) > cache_bypass_threshold)
                return 1;
        default:
+           return 0;
      }
-     return 0;
 }
 
 /* Check if a file is permitted to bypass the cache by policy, and modify
@@ -1859,12 +1849,12 @@ afs_linux_can_bypass(struct inode *ip) {
 
 static inline int
 afs_linux_bypass_check(struct inode *ip) {
-    struct cred* credp;
+    cred_t* credp;
 
     int bypass = afs_linux_can_bypass(ip);
 
     credp = crref();
-    trydo_cache_transition(VTOAFS(ip)), credp, bypass);
+    trydo_cache_transition(VTOAFS(ip), credp, bypass);
     crfree(credp);
 
     return bypass;
@@ -1897,7 +1887,7 @@ afs_linux_readpage(struct file *fp, struct page *pp)
        code = afs_linux_fillpage(fp, pp);
        if (!code)
            code = afs_linux_prefetch(fp, pp);
-       UnlockPage(pp);
+       unlock_page(pp);
     }
 
     return code;
@@ -1998,41 +1988,56 @@ afs_linux_readpages(struct file *fp, struct address_space *mapping,
     return 0;
 }
 
+/* Prepare an AFS vcache for writeback. Should be called with the vcache
+ * locked */
+static inline int
+afs_linux_prepare_writeback(struct vcache *avc) {
+    if (avc->f.states & CPageWrite) {
+       return AOP_WRITEPAGE_ACTIVATE;
+    }
+    avc->f.states |= CPageWrite;
+    return 0;
+}
+
+static inline int
+afs_linux_dopartialwrite(struct vcache *avc, cred_t *credp) {
+    struct vrequest treq;
+    int code = 0;
+
+    if (!afs_InitReq(&treq, credp))
+       code = afs_DoPartialWrite(avc, &treq);
+
+    return afs_convert_code(code);
+}
+
+static inline void
+afs_linux_complete_writeback(struct vcache *avc) {
+    avc->f.states &= ~CPageWrite;
+}
+
+/* Writeback a given page syncronously. Called with no AFS locks held */
 static int
-afs_linux_writepage_sync(struct inode *ip, struct page *pp,
-                        unsigned long offset, unsigned int count)
+afs_linux_page_writeback(struct inode *ip, struct page *pp,
+                        unsigned long offset, unsigned int count,
+                        cred_t *credp)
 {
     struct vcache *vcp = VTOAFS(ip);
     char *buffer;
     afs_offs_t base;
     int code = 0;
-    cred_t *credp;
     uio_t tuio;
     struct iovec iovec;
     int f_flags = 0;
 
     buffer = kmap(pp) + offset;
-    base = (((loff_t) pp->index) << PAGE_CACHE_SHIFT)  + offset;
+    base = page_offset(pp) + offset;
 
-    credp = crref();
     afs_maybe_lock_kernel();
     AFS_GLOCK();
     afs_Trace4(afs_iclSetp, CM_TRACE_UPDATEPAGE, ICL_TYPE_POINTER, vcp,
               ICL_TYPE_POINTER, pp, ICL_TYPE_INT32, page_count(pp),
               ICL_TYPE_INT32, 99999);
 
-    ObtainWriteLock(&vcp->lock, 532);
-    if (vcp->f.states & CPageWrite) {
-       ReleaseWriteLock(&vcp->lock);
-       AFS_GUNLOCK();
-       afs_maybe_unlock_kernel();
-       crfree(credp);
-       kunmap(pp);
-       return AOP_WRITEPAGE_ACTIVATE;
-    }
-    vcp->f.states |= CPageWrite;
-    ReleaseWriteLock(&vcp->lock);
-
     setup_uio(&tuio, &iovec, buffer, base, count, UIO_WRITE, AFS_UIOSYS);
 
     code = afs_write(vcp, &tuio, f_flags, credp, 0);
@@ -2040,30 +2045,59 @@ afs_linux_writepage_sync(struct inode *ip, struct page *pp,
     i_size_write(ip, vcp->f.m.Length);
     ip->i_blocks = ((vcp->f.m.Length + 1023) >> 10) << 1;
 
-    ObtainWriteLock(&vcp->lock, 533);
-    if (!code) {
-       struct vrequest treq;
-
-       if (!afs_InitReq(&treq, credp))
-           code = afs_DoPartialWrite(vcp, &treq);
-    }
     code = code ? afs_convert_code(code) : count - tuio.uio_resid;
 
-    vcp->f.states &= ~CPageWrite;
-    ReleaseWriteLock(&vcp->lock);
-
     afs_Trace4(afs_iclSetp, CM_TRACE_UPDATEPAGE, ICL_TYPE_POINTER, vcp,
               ICL_TYPE_POINTER, pp, ICL_TYPE_INT32, page_count(pp),
               ICL_TYPE_INT32, code);
 
     AFS_GUNLOCK();
     afs_maybe_unlock_kernel();
-    crfree(credp);
     kunmap(pp);
 
     return code;
 }
 
+static int
+afs_linux_writepage_sync(struct inode *ip, struct page *pp,
+                        unsigned long offset, unsigned int count)
+{
+    int code;
+    int code1 = 0;
+    struct vcache *vcp = VTOAFS(ip);
+    cred_t *credp;
+
+    /* Catch recursive writeback. This occurs if the kernel decides
+     * writeback is required whilst we are writing to the cache, or
+     * flushing to the server. When we're running syncronously (as
+     * opposed to from writepage) we can't actually do anything about
+     * this case - as we can't return AOP_WRITEPAGE_ACTIVATE to write()
+     */
+    AFS_GLOCK();
+    ObtainWriteLock(&vcp->lock, 532);
+    afs_linux_prepare_writeback(vcp);
+    ReleaseWriteLock(&vcp->lock);
+    AFS_GUNLOCK();
+
+    credp = crref();
+    code = afs_linux_page_writeback(ip, pp, offset, count, credp);
+
+    afs_maybe_lock_kernel();
+    AFS_GLOCK();
+    ObtainWriteLock(&vcp->lock, 533);
+    if (code > 0)
+       code1 = afs_linux_dopartialwrite(vcp, credp);
+    afs_linux_complete_writeback(vcp);
+    ReleaseWriteLock(&vcp->lock);
+    AFS_GUNLOCK();
+    afs_maybe_unlock_kernel();
+    crfree(credp);
+
+    if (code1)
+       return code1;
+
+    return code;
+}
 
 static int
 #ifdef AOP_WRITEPAGE_TAKES_WRITEBACK_CONTROL
@@ -2074,34 +2108,84 @@ afs_linux_writepage(struct page *pp)
 {
     struct address_space *mapping = pp->mapping;
     struct inode *inode;
-    unsigned long end_index;
-    unsigned offset = PAGE_CACHE_SIZE;
-    long status;
+    struct vcache *vcp;
+    cred_t *credp;
+    unsigned int to = PAGE_CACHE_SIZE;
+    loff_t isize;
+    int code = 0;
+    int code1 = 0;
 
     if (PageReclaim(pp)) {
        return AOP_WRITEPAGE_ACTIVATE;
+       /* XXX - Do we need to redirty the page here? */
     }
 
-    inode = (struct inode *)mapping->host;
-    end_index = i_size_read(inode) >> PAGE_CACHE_SHIFT;
+    page_cache_get(pp);
 
-    /* easy case */
-    if (pp->index < end_index)
-       goto do_it;
-    /* things got complicated... */
-    offset = i_size_read(inode) & (PAGE_CACHE_SIZE - 1);
-    /* OK, are we completely out? */
-    if (pp->index >= end_index + 1 || !offset)
-       return -EIO;
-  do_it:
-    status = afs_linux_writepage_sync(inode, pp, 0, offset);
+    inode = mapping->host;
+    vcp = VTOAFS(inode);
+    isize = i_size_read(inode);
+
+    /* Don't defeat an earlier truncate */
+    if (page_offset(pp) > isize)
+       goto done;
+
+    AFS_GLOCK();
+    ObtainWriteLock(&vcp->lock, 537);
+    code = afs_linux_prepare_writeback(vcp);
+    if (code) {
+       ReleaseWriteLock(&vcp->lock);
+       AFS_GUNLOCK();
+       return code;
+    }
+    /* Grab the creds structure currently held in the vnode, and
+     * get a reference to it, in case it goes away ... */
+    credp = vcp->cred;
+    crhold(credp);
+    ReleaseWriteLock(&vcp->lock);
+    AFS_GUNLOCK();
+
+    /* If this is the final page, then just write the number of bytes that
+     * are actually in it */
+    if ((isize - page_offset(pp)) < to )
+       to = isize - page_offset(pp);
+
+    code = afs_linux_page_writeback(inode, pp, 0, to, credp);
+
+    afs_maybe_lock_kernel();
+    AFS_GLOCK();
+    ObtainWriteLock(&vcp->lock, 538);
+
+    /* As much as we might like to ignore a file server error here,
+     * and just try again when we close(), unfortunately StoreAllSegments
+     * will invalidate our chunks if the server returns a permanent error,
+     * so we need to at least try and get that error back to the user
+     */
+    if (code == to)
+       code1 = afs_linux_dopartialwrite(vcp, credp);
+
+    afs_linux_complete_writeback(vcp);
+    ReleaseWriteLock(&vcp->lock);
+    crfree(credp);
+    AFS_GUNLOCK();
+    afs_maybe_unlock_kernel();
+
+done:
     SetPageUptodate(pp);
-    if ( status != AOP_WRITEPAGE_ACTIVATE )
-       UnlockPage(pp);
-    if (status == offset)
+    if ( code != AOP_WRITEPAGE_ACTIVATE ) {
+       /* XXX - do we need to redirty the page here? */
+       unlock_page(pp);
+    }
+
+    page_cache_release(pp);
+
+    if (code1)
+       return code1;
+
+    if (code == to)
        return 0;
-    else
-       return status;
+
+    return code;
 }
 
 /* afs_linux_permission
@@ -2244,7 +2328,7 @@ afs_symlink_filler(struct file *file, struct page *page)
 
     SetPageUptodate(page);
     kunmap(page);
-    UnlockPage(page);
+    unlock_page(page);
     return 0;
 
   fail:
@@ -2252,7 +2336,7 @@ afs_symlink_filler(struct file *file, struct page *page)
 
     SetPageError(page);
     kunmap(page);
-    UnlockPage(page);
+    unlock_page(page);
     return code;
 }