src/rx/rx_event.c

   1 /*
   2  * Copyright 2000, International Business Machines Corporation and others.
   3  * All Rights Reserved.
   4  *
   5  * This software has been released under the terms of the IBM Public
   6  * License.  For details, see the LICENSE file in the top-level source
   7  * directory or online at http://www.openafs.org/dl/license10.html
   8  */
   9
  10 #include <afsconfig.h>
  11 #ifdef  KERNEL
  12 #include "afs/param.h"
  13 #else
  14 #include <afs/param.h>
  15 #endif
  16
  17 #ifdef AFS_SUN59_ENV
  18 #include <sys/time_impl.h>
  19 #endif
  20
  21 RCSID
  22     ("$Header$");
  23
  24 #ifdef KERNEL
  25 #ifndef UKERNEL
  26 #include "afs/afs_osi.h"
  27 #else /* !UKERNEL */
  28 #include "afs/sysincludes.h"
  29 #include "afsincludes.h"
  30 #endif /* !UKERNEL */
  31 #include "rx/rx_clock.h"
  32 #include "rx/rx_queue.h"
  33 #include "rx/rx_event.h"
  34 #include "rx/rx_kernel.h"
  35 #include "rx_kmutex.h"
  36 #ifdef RX_ENABLE_LOCKS
  37 #include "rx/rx.h"
  38 #endif /* RX_ENABLE_LOCKS */
  39 #include "rx/rx_globals.h"
  40 #if defined(AFS_SGI_ENV)
  41 #include "sys/debug.h"
  42 /* These are necessary to get curproc (used by GLOCK asserts) to work. */
  43 #include "h/proc.h"
  44 #if !defined(AFS_SGI64_ENV) && !defined(UKERNEL)
  45 #include "h/user.h"
  46 #endif
  47 extern void *osi_Alloc();
  48 #endif
  49 #if defined(AFS_OBSD_ENV)
  50 #include "h/proc.h"
  51 #endif
  52 #else /* KERNEL */
  53 #include <stdio.h>
  54 #include "rx_clock.h"
  55 #include "rx_queue.h"
  56 #include "rx_event.h"
  57 #include "rx_user.h"
  58 #ifdef AFS_PTHREAD_ENV
  59 #include <rx/rx_pthread.h>
  60 #else
  61 #include "rx_lwp.h"
  62 #endif
  63 #ifdef RX_ENABLE_LOCKS
  64 #include "rx.h"
  65 #endif /* RX_ENABLE_LOCKS */
  66 #include "rx_globals.h"
  67 #ifdef AFS_NT40_ENV
  68 #include <malloc.h>
  69 #endif
  70 #endif /* KERNEL */
  71
  72
  73 /* All event processing is relative to the apparent current time given by clock_GetTime */
  74
  75 /* This should be static, but event_test wants to look at the free list... */
  76 struct rx_queue rxevent_free;   /* It's somewhat bogus to use a doubly-linked queue for the free list */
  77 struct rx_queue rxepoch_free;   /* It's somewhat bogus to use a doubly-linked queue for the free list */
  78 static struct rx_queue rxepoch_queue;   /* list of waiting epochs */
  79 static int rxevent_allocUnit = 10;      /* Allocation unit (number of event records to allocate at one time) */
  80 static int rxepoch_allocUnit = 10;      /* Allocation unit (number of epoch records to allocate at one time) */
  81 int rxevent_nFree;              /* Number of free event records */
  82 int rxevent_nPosted;            /* Current number of posted events */
  83 int rxepoch_nFree;              /* Number of free epoch records */
  84 static void (*rxevent_ScheduledEarlierEvent) (void);    /* Proc to call when an event is scheduled that is earlier than all other events */
  85 struct xfreelist {
  86     void *mem;
  87     int size;
  88     struct xfreelist *next;
  89 };
  90 static struct xfreelist *xfreemallocs = 0, *xsp = 0;
  91
  92 struct clock rxevent_nextRaiseEvents;   /* Time of next call to raise events */
  93 struct clock rxevent_lastEvent;        /* backwards time detection */
  94 int rxevent_raiseScheduled;     /* true if raise events is scheduled */
  95
  96 #ifdef RX_ENABLE_LOCKS
  97 #ifdef RX_LOCKS_DB
  98 /* rxdb_fileID is used to identify the lock location, along with line#. */
  99 static int rxdb_fileID = RXDB_FILE_RX_EVENT;
 100 #endif /* RX_LOCKS_DB */
 101 #define RX_ENABLE_LOCKS  1
 102 afs_kmutex_t rxevent_lock;
 103 #endif /* RX_ENABLE_LOCKS */
 104
 105 #ifdef AFS_PTHREAD_ENV
 106 /*
 107  * This mutex protects the following global variables:
 108  * rxevent_initialized
 109  */
 110
 111 #include <assert.h>
 112 pthread_mutex_t rx_event_mutex;
 113 #define LOCK_EV_INIT assert(pthread_mutex_lock(&rx_event_mutex)==0)
 114 #define UNLOCK_EV_INIT assert(pthread_mutex_unlock(&rx_event_mutex)==0)
 115 #else
 116 #define LOCK_EV_INIT
 117 #define UNLOCK_EV_INIT
 118 #endif /* AFS_PTHREAD_ENV */
 119
 120
 121 int
 122 rxevent_adjTimes(struct clock *adjTime)
 123 {
 124     /* backwards clock correction */
 125     int nAdjusted = 0;
 126     struct rxepoch *qep, *nqep;
 127     struct rxevent *qev, *nqev;
 128
 129     for (queue_Scan(&rxepoch_queue, qep, nqep, rxepoch)) {
 130         for (queue_Scan(&qep->events, qev, nqev, rxevent)) {
 131             if (clock_Gt(&qev->eventTime, adjTime)) {
 132                 clock_Sub(&qev->eventTime, adjTime);
 133                 nAdjusted++;
 134             }
 135         }
 136         if (qep->epochSec > adjTime->sec) {
 137             qep->epochSec -= adjTime->sec;
 138         }
 139     }
 140     return nAdjusted;
 141 }
 142
 143 /* Pass in the number of events to allocate at a time */
 144 int rxevent_initialized = 0;
 145 void
 146 rxevent_Init(int nEvents, void (*scheduler) (void))
 147 {
 148     LOCK_EV_INIT;
 149     if (rxevent_initialized) {
 150         UNLOCK_EV_INIT;
 151         return;
 152     }
 153     MUTEX_INIT(&rxevent_lock, "rxevent_lock", MUTEX_DEFAULT, 0);
 154     clock_Init();
 155     if (nEvents)
 156         rxevent_allocUnit = nEvents;
 157     queue_Init(&rxevent_free);
 158     queue_Init(&rxepoch_free);
 159     queue_Init(&rxepoch_queue);
 160     rxevent_nFree = rxevent_nPosted = 0;
 161     rxepoch_nFree = 0;
 162     rxevent_ScheduledEarlierEvent = scheduler;
 163     rxevent_initialized = 1;
 164     clock_Zero(&rxevent_nextRaiseEvents);
 165     clock_Zero(&rxevent_lastEvent);
 166     rxevent_raiseScheduled = 0;
 167     UNLOCK_EV_INIT;
 168 }
 169
 170 /* Create and initialize new epoch structure */
 171 struct rxepoch *
 172 rxepoch_Allocate(struct clock *when)
 173 {
 174     struct rxepoch *ep;
 175     int i;
 176
 177     /* If we are short on free epoch entries, create a block of new oned
 178      * and add them to the free queue */
 179     if (queue_IsEmpty(&rxepoch_free)) {
 180 #if    defined(AFS_AIX32_ENV) && defined(KERNEL)
 181         ep = (struct rxepoch *)rxi_Alloc(sizeof(struct rxepoch));
 182         queue_Append(&rxepoch_free, &ep[0]), rxepoch_nFree++;
 183 #else
 184 #if defined(KERNEL) && !defined(UKERNEL) && defined(AFS_FBSD80_ENV)
 185         ep = (struct rxepoch *)
 186             afs_osi_Alloc_NoSleep(sizeof(struct rxepoch) * rxepoch_allocUnit);
 187         xsp = xfreemallocs;
 188         xfreemallocs =
 189             (struct xfreelist *)afs_osi_Alloc_NoSleep(sizeof(struct xfreelist));
 190 #else
 191         ep = (struct rxepoch *)
 192             osi_Alloc(sizeof(struct rxepoch) * rxepoch_allocUnit);
 193         xsp = xfreemallocs;
 194         xfreemallocs =
 195             (struct xfreelist *)osi_Alloc(sizeof(struct xfreelist));
 196 #endif
 197         xfreemallocs->mem = (void *)ep;
 198         xfreemallocs->size = sizeof(struct rxepoch) * rxepoch_allocUnit;
 199         xfreemallocs->next = xsp;
 200         for (i = 0; i < rxepoch_allocUnit; i++)
 201             queue_Append(&rxepoch_free, &ep[i]), rxepoch_nFree++;
 202 #endif
 203     }
 204     ep = queue_First(&rxepoch_free, rxepoch);
 205     queue_Remove(ep);
 206     rxepoch_nFree--;
 207     ep->epochSec = when->sec;
 208     queue_Init(&ep->events);
 209     return ep;
 210 }
 211
 212 /* Add the indicated event (function, arg) at the specified clock time.  The
 213  * "when" argument specifies when "func" should be called, in clock (clock.h)
 214  * units. */
 215
 216 static struct rxevent *
 217 _rxevent_Post(struct clock *when, struct clock *now, void (*func) (),
 218               void *arg, void *arg1, int arg2, int newargs)
 219 {
 220     register struct rxevent *ev, *evqe, *evqpr;
 221     register struct rxepoch *ep, *epqe, *epqpr;
 222     int isEarliest = 0;
 223
 224     MUTEX_ENTER(&rxevent_lock);
 225 #ifdef RXDEBUG
 226     if (rx_Log_event) {
 227         struct clock now1;
 228         clock_GetTime(&now1);
 229         fprintf(rx_Log_event, "%d.%d: rxevent_Post(%d.%d, %lp, %lp, %lp, %d)\n",
 230                 (int)now1.sec, (int)now1.usec, (int)when->sec, (int)when->usec,
 231                 func, arg,
 232                 arg1, arg2);
 233     }
 234 #endif
 235     /* If a time was provided, check for consistency */
 236     if (now->sec) {
 237         if (clock_Gt(&rxevent_lastEvent, now)) {
 238             struct clock adjTime = rxevent_lastEvent;
 239             clock_Sub(&adjTime, now);
 240             rxevent_adjTimes(&adjTime);
 241         }
 242         rxevent_lastEvent = *now;
 243     }
 244     /* Get a pointer to the epoch for this event, if none is found then
 245      * create a new epoch and insert it into the sorted list */
 246     for (ep = NULL, queue_ScanBackwards(&rxepoch_queue, epqe, epqpr, rxepoch)) {
 247         if (when->sec == epqe->epochSec) {
 248             /* already have an structure for this epoch */
 249             ep = epqe;
 250             if (ep == queue_First(&rxepoch_queue, rxepoch))
 251                 isEarliest = 1;
 252             break;
 253         } else if (when->sec > epqe->epochSec) {
 254             /* Create a new epoch and insert after qe */
 255             ep = rxepoch_Allocate(when);
 256             queue_InsertAfter(epqe, ep);
 257             break;
 258         }
 259     }
 260     if (ep == NULL) {
 261         /* Create a new epoch and place it at the head of the list */
 262         ep = rxepoch_Allocate(when);
 263         queue_Prepend(&rxepoch_queue, ep);
 264         isEarliest = 1;
 265     }
 266
 267     /* If we're short on free event entries, create a block of new ones and add
 268      * them to the free queue */
 269     if (queue_IsEmpty(&rxevent_free)) {
 270         register int i;
 271 #if     defined(AFS_AIX32_ENV) && defined(KERNEL)
 272         ev = (struct rxevent *)rxi_Alloc(sizeof(struct rxevent));
 273         queue_Append(&rxevent_free, &ev[0]), rxevent_nFree++;
 274 #else
 275
 276 #if defined(KERNEL) && !defined(UKERNEL) && defined(AFS_FBSD80_ENV)
 277         ev = (struct rxevent *)afs_osi_Alloc_NoSleep(sizeof(struct rxevent) *
 278                                          rxevent_allocUnit);
 279         xsp = xfreemallocs;
 280         xfreemallocs =
 281             (struct xfreelist *)afs_osi_Alloc_NoSleep(sizeof(struct xfreelist));
 282 #else
 283         ev = (struct rxevent *)osi_Alloc(sizeof(struct rxevent) *
 284                                          rxevent_allocUnit);
 285         xsp = xfreemallocs;
 286         xfreemallocs =
 287             (struct xfreelist *)osi_Alloc(sizeof(struct xfreelist));
 288 #endif
 289         xfreemallocs->mem = (void *)ev;
 290         xfreemallocs->size = sizeof(struct rxevent) * rxevent_allocUnit;
 291         xfreemallocs->next = xsp;
 292         for (i = 0; i < rxevent_allocUnit; i++)
 293             queue_Append(&rxevent_free, &ev[i]), rxevent_nFree++;
 294 #endif
 295     }
 296
 297     /* Grab and initialize a new rxevent structure */
 298     ev = queue_First(&rxevent_free, rxevent);
 299     queue_Remove(ev);
 300     rxevent_nFree--;
 301
 302     /* Record user defined event state */
 303     ev->eventTime = *when;
 304     ev->func = func;
 305     ev->arg = arg;
 306     ev->arg1 = arg1;
 307     ev->arg2 = arg2;
 308     ev->newargs = newargs;
 309     rxevent_nPosted += 1;       /* Rather than ++, to shut high-C up
 310                                  *  regarding never-set variables
 311                                  */
 312
 313     /* Insert the event into the sorted list of events for this epoch */
 314     for (queue_ScanBackwards(&ep->events, evqe, evqpr, rxevent)) {
 315         if (when->usec >= evqe->eventTime.usec) {
 316             /* Insert event after evqe */
 317             queue_InsertAfter(evqe, ev);
 318             MUTEX_EXIT(&rxevent_lock);
 319             return ev;
 320         }
 321     }
 322     /* Insert event at head of current epoch */
 323     queue_Prepend(&ep->events, ev);
 324     if (isEarliest && rxevent_ScheduledEarlierEvent
 325         && (!rxevent_raiseScheduled
 326             || clock_Lt(&ev->eventTime, &rxevent_nextRaiseEvents))) {
 327         rxevent_raiseScheduled = 1;
 328         clock_Zero(&rxevent_nextRaiseEvents);
 329         MUTEX_EXIT(&rxevent_lock);
 330         /* Notify our external scheduler */
 331         (*rxevent_ScheduledEarlierEvent) ();
 332         MUTEX_ENTER(&rxevent_lock);
 333     }
 334     MUTEX_EXIT(&rxevent_lock);
 335     return ev;
 336 }
 337
 338 struct rxevent *
 339 rxevent_Post(struct clock *when, void (*func) (), void *arg, void *arg1)
 340 {
 341     struct clock now;
 342     clock_Zero(&now);
 343     return _rxevent_Post(when, &now, func, arg, arg1, 0, 0);
 344 }
 345
 346 struct rxevent *
 347 rxevent_Post2(struct clock *when, void (*func) (), void *arg, void *arg1,
 348               int arg2)
 349 {
 350     struct clock now;
 351     clock_Zero(&now);
 352     return _rxevent_Post(when, &now, func, arg, arg1, arg2, 1);
 353 }
 354
 355 struct rxevent *
 356 rxevent_PostNow(struct clock *when, struct clock *now, void (*func) (),
 357                 void *arg, void *arg1)
 358 {
 359     return _rxevent_Post(when, now, func, arg, arg1, 0, 0);
 360 }
 361
 362 struct rxevent *
 363 rxevent_PostNow2(struct clock *when, struct clock *now, void (*func) (),
 364                  void *arg, void *arg1, int arg2)
 365 {
 366     return _rxevent_Post(when, now, func, arg, arg1, arg2, 1);
 367 }
 368
 369 /* Cancel an event by moving it from the event queue to the free list.
 370  * Warning, the event must be on the event queue!  If not, this should core
 371  * dump (reference through 0).  This routine should be called using the macro
 372  * event_Cancel, which checks for a null event and also nulls the caller's
 373  * event pointer after cancelling the event.
 374  */
 375 #ifdef RX_ENABLE_LOCKS
 376 #ifdef RX_REFCOUNT_CHECK
 377 int rxevent_Cancel_type = 0;
 378 #endif
 379 #endif
 380
 381 void
 382 rxevent_Cancel_1(register struct rxevent *ev, register struct rx_call *call,
 383                  register int type)
 384 {
 385 #ifdef RXDEBUG
 386     if (rx_Log_event) {
 387         struct clock now;
 388         clock_GetTime(&now);
 389         fprintf(rx_Log_event, "%d.%d: rxevent_Cancel_1(%d.%d, %lp, %lp)\n",
 390                 (int)now.sec, (int)now.usec, (int)ev->eventTime.sec,
 391                 (int)ev->eventTime.usec, ev->func,
 392                 ev->arg);
 393     }
 394 #endif
 395     /* Append it to the free list (rather than prepending) to keep the free
 396      * list hot so nothing pages out
 397      */
 398     MUTEX_ENTER(&rxevent_lock);
 399     if (!ev) {
 400         MUTEX_EXIT(&rxevent_lock);
 401         return;
 402     }
 403 #ifdef RX_ENABLE_LOCKS
 404     /* It's possible we're currently processing this event. */
 405     if (queue_IsOnQueue(ev)) {
 406         queue_MoveAppend(&rxevent_free, ev);
 407         rxevent_nPosted--;
 408         rxevent_nFree++;
 409         if (call) {
 410             call->refCount--;
 411 #ifdef RX_REFCOUNT_CHECK
 412             call->refCDebug[type]--;
 413             if (call->refCDebug[type] < 0) {
 414                 rxevent_Cancel_type = type;
 415                 osi_Panic("rxevent_Cancel: call refCount < 0");
 416             }
 417 #endif /* RX_REFCOUNT_CHECK */
 418         }
 419     }
 420 #else /* RX_ENABLE_LOCKS */
 421     queue_MoveAppend(&rxevent_free, ev);
 422     rxevent_nPosted--;
 423     rxevent_nFree++;
 424 #endif /* RX_ENABLE_LOCKS */
 425     MUTEX_EXIT(&rxevent_lock);
 426 }
 427
 428 /* Process all epochs that have expired relative to the current clock time
 429  * (which is not re-evaluated unless clock_NewTime has been called).  The
 430  * relative time to the next epoch is returned in the output parameter next
 431  * and the function returns 1.  If there are is no next epoch, the function
 432  * returns 0.
 433  */
 434 int
 435 rxevent_RaiseEvents(struct clock *next)
 436 {
 437     register struct rxepoch *ep;
 438     register struct rxevent *ev;
 439     volatile struct clock now;
 440     MUTEX_ENTER(&rxevent_lock);
 441
 442     /* Events are sorted by time, so only scan until an event is found that has
 443      * not yet timed out */
 444
 445     clock_Zero(&now);
 446     while (queue_IsNotEmpty(&rxepoch_queue)) {
 447         ep = queue_First(&rxepoch_queue, rxepoch);
 448         if (queue_IsEmpty(&ep->events)) {
 449             queue_Remove(ep);
 450             queue_Append(&rxepoch_free, ep);
 451             rxepoch_nFree++;
 452             continue;
 453         }
 454         do {
 455         reraise:
 456             ev = queue_First(&ep->events, rxevent);
 457             if (clock_Lt(&now, &ev->eventTime)) {
 458                 clock_GetTime(&now);
 459                 if (clock_Gt(&rxevent_lastEvent, &now)) {
 460                     struct clock adjTime = rxevent_lastEvent;
 461                     int adjusted;
 462                     clock_Sub(&adjTime, &now);
 463                     adjusted = rxevent_adjTimes(&adjTime);
 464                     rxevent_lastEvent = now;
 465                     if (adjusted > 0)
 466                         goto reraise;
 467                 }
 468                 if (clock_Lt(&now, &ev->eventTime)) {
 469                     *next = rxevent_nextRaiseEvents = ev->eventTime;
 470                     rxevent_raiseScheduled = 1;
 471                     clock_Sub(next, &now);
 472                     MUTEX_EXIT(&rxevent_lock);
 473                     return 1;
 474                 }
 475             }
 476             queue_Remove(ev);
 477             rxevent_nPosted--;
 478             MUTEX_EXIT(&rxevent_lock);
 479             if (ev->newargs) {
 480                 ev->func(ev, ev->arg, ev->arg1, ev->arg2);
 481             } else {
 482                 ev->func(ev, ev->arg, ev->arg1);
 483             }
 484             MUTEX_ENTER(&rxevent_lock);
 485             queue_Append(&rxevent_free, ev);
 486             rxevent_nFree++;
 487         } while (queue_IsNotEmpty(&ep->events));
 488     }
 489 #ifdef RXDEBUG
 490     if (rx_Log_event)
 491         fprintf(rx_Log_event, "rxevent_RaiseEvents(%d.%d)\n", (int)now.sec,
 492                 (int)now.usec);
 493 #endif
 494     rxevent_raiseScheduled = 0;
 495     MUTEX_EXIT(&rxevent_lock);
 496     return 0;
 497 }
 498
 499 void
 500 shutdown_rxevent(void)
 501 {
 502     struct xfreelist *xp, *nxp;
 503
 504     LOCK_EV_INIT;
 505     if (!rxevent_initialized) {
 506         UNLOCK_EV_INIT;
 507         return;
 508     }
 509     rxevent_initialized = 0;
 510     UNLOCK_EV_INIT;
 511     MUTEX_DESTROY(&rxevent_lock);
 512 #if     defined(AFS_AIX32_ENV) && defined(KERNEL)
 513     /* Everything is freed in afs_osinet.c */
 514 #else
 515     xp = xfreemallocs;
 516     while (xp) {
 517         nxp = xp->next;
 518         osi_Free((char *)xp->mem, xp->size);
 519         osi_Free((char *)xp, sizeof(struct xfreelist));
 520         xp = nxp;
 521     }
 522     xfreemallocs = NULL;
 523 #endif
 524
 525 }