[BACK]Return to hooks.c CVS log [TXT] [DIR] Up to [ELWIX - Embedded LightWeight unIX -] / libaitsched / src

Diff for /libaitsched/src/hooks.c between versions 1.34 and 1.37

version 1.34, 2019/01/14 15:58:50 version 1.37, 2022/10/19 01:45:08
Line 12  terms: Line 12  terms:
 All of the documentation and software included in the ELWIX and AITNET  All of the documentation and software included in the ELWIX and AITNET
 Releases is copyrighted by ELWIX - Sofia/Bulgaria <info@elwix.org>  Releases is copyrighted by ELWIX - Sofia/Bulgaria <info@elwix.org>
   
Copyright 2004 - 2018Copyright 2004 - 2022
         by Michael Pounov <misho@elwix.org>.  All rights reserved.          by Michael Pounov <misho@elwix.org>.  All rights reserved.
   
 Redistribution and use in source and binary forms, with or without  Redistribution and use in source and binary forms, with or without
Line 204  sched_hook_cancel(void *task, void *arg __unused) Line 204  sched_hook_cancel(void *task, void *arg __unused)
 {  {
         sched_task_t *t = task, *tmp, *tt;          sched_task_t *t = task, *tmp, *tt;
         sched_root_task_t *r = NULL;          sched_root_task_t *r = NULL;
        int flg;        int flg = 0;
 #if SUP_ENABLE == KQ_SUPPORT  #if SUP_ENABLE == KQ_SUPPORT
         struct kevent chg[1];          struct kevent chg[1];
         struct timespec timeout = { 0, 0 };          struct timespec timeout = { 0, 0 };
Line 229  sched_hook_cancel(void *task, void *arg __unused) Line 229  sched_hook_cancel(void *task, void *arg __unused)
         switch (TASK_TYPE(t)) {          switch (TASK_TYPE(t)) {
                 case taskREAD:                  case taskREAD:
                         /* check for multi subscribers */                          /* check for multi subscribers */
                         flg = 0;  
                         TAILQ_FOREACH_SAFE(tt, &r->root_read, task_node, tmp)                          TAILQ_FOREACH_SAFE(tt, &r->root_read, task_node, tmp)
                                if (TASK_FD(tt) != TASK_FD(t))                                if (TASK_FD(tt) == TASK_FD(t))
                                        continue; 
                                else 
                                         flg++;                                          flg++;
 #if SUP_ENABLE == KQ_SUPPORT  #if SUP_ENABLE == KQ_SUPPORT
 #ifdef __NetBSD__  #ifdef __NetBSD__
Line 258  sched_hook_cancel(void *task, void *arg __unused) Line 255  sched_hook_cancel(void *task, void *arg __unused)
                                 FD_CLR(TASK_FD(t), &r->root_fds[0]);                                  FD_CLR(TASK_FD(t), &r->root_fds[0]);
   
                                 /* optimize select */                                  /* optimize select */
                                for (i = r->root_kq - 1; i > 2; i--)                                for (i = r->root_kq - 1; i >= 0; i--)
                                         if (FD_ISSET(i, &r->root_fds[0]) || FD_ISSET(i, &r->root_fds[1]))                                          if (FD_ISSET(i, &r->root_fds[0]) || FD_ISSET(i, &r->root_fds[1]))
                                                 break;                                                  break;
                                if (i > 2)                                r->root_kq = i + 1;
                                        r->root_kq = i + 1; 
                         }                          }
 #endif  #endif
                         break;                          break;
                 case taskWRITE:                  case taskWRITE:
                         /* check for multi subscribers */                          /* check for multi subscribers */
                         flg = 0;  
                         TAILQ_FOREACH_SAFE(tt, &r->root_write, task_node, tmp)                          TAILQ_FOREACH_SAFE(tt, &r->root_write, task_node, tmp)
                                if (TASK_FD(tt) != TASK_FD(t))                                if (TASK_FD(tt) == TASK_FD(t))
                                        continue; 
                                else 
                                         flg++;                                          flg++;
 #if SUP_ENABLE == KQ_SUPPORT  #if SUP_ENABLE == KQ_SUPPORT
 #ifdef __NetBSD__  #ifdef __NetBSD__
Line 297  sched_hook_cancel(void *task, void *arg __unused) Line 290  sched_hook_cancel(void *task, void *arg __unused)
                                 FD_CLR(TASK_FD(t), &r->root_fds[1]);                                  FD_CLR(TASK_FD(t), &r->root_fds[1]);
   
                                 /* optimize select */                                  /* optimize select */
                                for (i = r->root_kq - 1; i > 2; i--)                                for (i = r->root_kq - 1; i >= 0; i--)
                                         if (FD_ISSET(i, &r->root_fds[0]) || FD_ISSET(i, &r->root_fds[1]))                                          if (FD_ISSET(i, &r->root_fds[0]) || FD_ISSET(i, &r->root_fds[1]))
                                                 break;                                                  break;
                                if (i > 2)                                r->root_kq = i + 1;
                                        r->root_kq = i + 1; 
                         }                          }
 #endif  #endif
                         break;                          break;
                 case taskALARM:                  case taskALARM:
 #if SUP_ENABLE == KQ_SUPPORT  #if SUP_ENABLE == KQ_SUPPORT
                         /* check for multi subscribers */                          /* check for multi subscribers */
                         flg = 0;  
                         TAILQ_FOREACH_SAFE(tt, &r->root_alarm, task_node, tmp)                          TAILQ_FOREACH_SAFE(tt, &r->root_alarm, task_node, tmp)
                                if (TASK_DATA(tt) != TASK_DATA(t))                                if (TASK_DATA(tt) == TASK_DATA(t))
                                        continue; 
                                else 
                                         flg++;                                          flg++;
 #ifdef __NetBSD__  #ifdef __NetBSD__
                         EV_SET(&chg[0], (uintptr_t) TASK_DATA(t), EVFILT_TIMER, flg < 2 ? EV_DELETE : 0,                           EV_SET(&chg[0], (uintptr_t) TASK_DATA(t), EVFILT_TIMER, flg < 2 ? EV_DELETE : 0, 
Line 326  sched_hook_cancel(void *task, void *arg __unused) Line 315  sched_hook_cancel(void *task, void *arg __unused)
                 case taskNODE:                  case taskNODE:
 #if SUP_ENABLE == KQ_SUPPORT  #if SUP_ENABLE == KQ_SUPPORT
                         /* check for multi subscribers */                          /* check for multi subscribers */
                         flg = 0;  
                         TAILQ_FOREACH_SAFE(tt, &r->root_node, task_node, tmp)                          TAILQ_FOREACH_SAFE(tt, &r->root_node, task_node, tmp)
                                if (TASK_FD(tt) != TASK_FD(t))                                if (TASK_FD(tt) == TASK_FD(t))
                                        continue; 
                                else 
                                         flg++;                                          flg++;
 #ifdef __NetBSD__  #ifdef __NetBSD__
                         EV_SET(&chg[0], TASK_FD(t), EVFILT_VNODE, flg < 2 ? EV_DELETE : 0,                           EV_SET(&chg[0], TASK_FD(t), EVFILT_VNODE, flg < 2 ? EV_DELETE : 0, 
Line 344  sched_hook_cancel(void *task, void *arg __unused) Line 330  sched_hook_cancel(void *task, void *arg __unused)
                 case taskPROC:                  case taskPROC:
 #if SUP_ENABLE == KQ_SUPPORT  #if SUP_ENABLE == KQ_SUPPORT
                         /* check for multi subscribers */                          /* check for multi subscribers */
                         flg = 0;  
                         TAILQ_FOREACH_SAFE(tt, &r->root_proc, task_node, tmp)                          TAILQ_FOREACH_SAFE(tt, &r->root_proc, task_node, tmp)
                                if (TASK_VAL(tt) != TASK_VAL(t))                                if (TASK_VAL(tt) == TASK_VAL(t))
                                        continue; 
                                else 
                                         flg++;                                          flg++;
 #ifdef __NetBSD__  #ifdef __NetBSD__
                         EV_SET(&chg[0], TASK_VAL(t), EVFILT_PROC, flg < 2 ? EV_DELETE : 0,                           EV_SET(&chg[0], TASK_VAL(t), EVFILT_PROC, flg < 2 ? EV_DELETE : 0, 
Line 362  sched_hook_cancel(void *task, void *arg __unused) Line 345  sched_hook_cancel(void *task, void *arg __unused)
                 case taskSIGNAL:                  case taskSIGNAL:
 #if SUP_ENABLE == KQ_SUPPORT  #if SUP_ENABLE == KQ_SUPPORT
                         /* check for multi subscribers */                          /* check for multi subscribers */
                         flg = 0;  
                         TAILQ_FOREACH_SAFE(tt, &r->root_signal, task_node, tmp)                          TAILQ_FOREACH_SAFE(tt, &r->root_signal, task_node, tmp)
                                if (TASK_VAL(tt) != TASK_VAL(t))                                if (TASK_VAL(tt) == TASK_VAL(t))
                                        continue; 
                                else 
                                         flg++;                                          flg++;
 #ifdef __NetBSD__  #ifdef __NetBSD__
                         EV_SET(&chg[0], TASK_VAL(t), EVFILT_SIGNAL, flg < 2 ? EV_DELETE : 0,                           EV_SET(&chg[0], TASK_VAL(t), EVFILT_SIGNAL, flg < 2 ? EV_DELETE : 0, 
Line 384  sched_hook_cancel(void *task, void *arg __unused) Line 364  sched_hook_cancel(void *task, void *arg __unused)
                 case taskAIO:                  case taskAIO:
 #if SUP_ENABLE == KQ_SUPPORT  #if SUP_ENABLE == KQ_SUPPORT
                         /* check for multi subscribers */                          /* check for multi subscribers */
                         flg = 0;  
                         TAILQ_FOREACH_SAFE(tt, &r->root_aio, task_node, tmp)                          TAILQ_FOREACH_SAFE(tt, &r->root_aio, task_node, tmp)
                                if (TASK_VAL(tt) != TASK_VAL(t))                                if (TASK_VAL(tt) == TASK_VAL(t))
                                        continue; 
                                else 
                                         flg++;                                          flg++;
 #ifdef __NetBSD__  #ifdef __NetBSD__
                         EV_SET(&chg[0], TASK_VAL(t), EVFILT_AIO, flg < 2 ? EV_DELETE : 0,                           EV_SET(&chg[0], TASK_VAL(t), EVFILT_AIO, flg < 2 ? EV_DELETE : 0, 
Line 401  sched_hook_cancel(void *task, void *arg __unused) Line 378  sched_hook_cancel(void *task, void *arg __unused)
                         if (acb) {                          if (acb) {
                                 if (aio_cancel(acb->aio_fildes, acb) == AIO_CANCELED)                                  if (aio_cancel(acb->aio_fildes, acb) == AIO_CANCELED)
                                         aio_return(acb);                                          aio_return(acb);
                                free(acb);                                e_free(acb);
                                 TASK_VAL(t) = 0;                                  TASK_VAL(t) = 0;
                         }                          }
 #endif  #endif
Line 410  sched_hook_cancel(void *task, void *arg __unused) Line 387  sched_hook_cancel(void *task, void *arg __unused)
                 case taskLIO:                  case taskLIO:
 #if SUP_ENABLE == KQ_SUPPORT  #if SUP_ENABLE == KQ_SUPPORT
                         /* check for multi subscribers */                          /* check for multi subscribers */
                         flg = 0;  
                         TAILQ_FOREACH_SAFE(tt, &r->root_lio, task_node, tmp)                          TAILQ_FOREACH_SAFE(tt, &r->root_lio, task_node, tmp)
                                if (TASK_VAL(tt) != TASK_VAL(t))                                if (TASK_VAL(tt) == TASK_VAL(t))
                                        continue; 
                                else 
                                         flg++;                                          flg++;
 #ifdef __NetBSD__  #ifdef __NetBSD__
                         EV_SET(&chg[0], TASK_VAL(t), EVFILT_LIO, flg < 2 ? EV_DELETE : 0,                           EV_SET(&chg[0], TASK_VAL(t), EVFILT_LIO, flg < 2 ? EV_DELETE : 0, 
Line 428  sched_hook_cancel(void *task, void *arg __unused) Line 402  sched_hook_cancel(void *task, void *arg __unused)
                                 for (i = 0; i < TASK_DATLEN(t); i++) {                                  for (i = 0; i < TASK_DATLEN(t); i++) {
                                         if (aio_cancel(acbs[i]->aio_fildes, acbs[i]) == AIO_CANCELED)                                          if (aio_cancel(acbs[i]->aio_fildes, acbs[i]) == AIO_CANCELED)
                                                 aio_return(acbs[i]);                                                  aio_return(acbs[i]);
                                        free(acbs[i]);                                        e_free(acbs[i]);
                                 }                                  }
                                free(acbs);                                e_free(acbs);
                                 TASK_VAL(t) = 0;                                  TASK_VAL(t) = 0;
                         }                          }
 #endif  #endif
Line 441  sched_hook_cancel(void *task, void *arg __unused) Line 415  sched_hook_cancel(void *task, void *arg __unused)
                 case taskUSER:                  case taskUSER:
 #if SUP_ENABLE == KQ_SUPPORT  #if SUP_ENABLE == KQ_SUPPORT
                         /* check for multi subscribers */                          /* check for multi subscribers */
                         flg = 0;  
                         TAILQ_FOREACH_SAFE(tt, &r->root_user, task_node, tmp)                          TAILQ_FOREACH_SAFE(tt, &r->root_user, task_node, tmp)
                                if (TASK_VAL(tt) != TASK_VAL(t))                                if (TASK_VAL(tt) == TASK_VAL(t))
                                        continue; 
                                else 
                                         flg++;                                          flg++;
 #ifdef __NetBSD__  #ifdef __NetBSD__
                         EV_SET(&chg[0], TASK_VAL(t), EVFILT_USER, flg < 2 ? EV_DELETE : 0,                           EV_SET(&chg[0], TASK_VAL(t), EVFILT_USER, flg < 2 ? EV_DELETE : 0, 
Line 477  sched_hook_cancel(void *task, void *arg __unused) Line 448  sched_hook_cancel(void *task, void *arg __unused)
                         schedCancel((sched_task_t*) TASK_RET(t));                          schedCancel((sched_task_t*) TASK_RET(t));
 #else  #else
                         /* check for multi subscribers */                          /* check for multi subscribers */
                         flg = 0;  
                         TAILQ_FOREACH_SAFE(tt, &r->root_rtc, task_node, tmp)                          TAILQ_FOREACH_SAFE(tt, &r->root_rtc, task_node, tmp)
                                if (TASK_DATA(tt) != TASK_DATA(t))                                if (TASK_DATA(tt) == TASK_DATA(t))
                                        continue; 
                                else 
                                         flg++;                                          flg++;
   
                         /* restore signal */                          /* restore signal */
Line 497  sched_hook_cancel(void *task, void *arg __unused) Line 465  sched_hook_cancel(void *task, void *arg __unused)
 #if SUP_ENABLE == KQ_SUPPORT  #if SUP_ENABLE == KQ_SUPPORT
         kevent(r->root_kq, chg, 1, NULL, 0, &timeout);          kevent(r->root_kq, chg, 1, NULL, 0, &timeout);
 #elif SUP_ENABLE == EP_SUPPORT  #elif SUP_ENABLE == EP_SUPPORT
        epoll_ctl(r->root_kq, ee.events ? EPOLL_CTL_MOD : EPOLL_CTL_DEL, ee.data.fd, &ee);        if (TASK_TYPE(t) == taskREAD || TASK_TYPE(t) == taskWRITE) {
                 epoll_ctl(r->root_kq, ee.events ? EPOLL_CTL_MOD : EPOLL_CTL_DEL, ee.data.fd, &ee);
         }
 #endif  #endif
         return NULL;          return NULL;
 }  }
Line 650  sched_hook_write(void *task, void *arg __unused) Line 620  sched_hook_write(void *task, void *arg __unused)
                 flg |= 1;                  flg |= 1;
                 ee.events |= EPOLLIN | EPOLLPRI;                  ee.events |= EPOLLIN | EPOLLPRI;
         }          }
        if (FD_ISSET(TASK_FD(t), &r->root_fds[1]))        if (FD_ISSET(TASK_FD(t), &r->root_fds[1])) {
                 flg |= 2;                  flg |= 2;
           }
   
         if (epoll_ctl(r->root_kq, flg ? EPOLL_CTL_MOD : EPOLL_CTL_ADD, TASK_FD(t), &ee) == -1) {          if (epoll_ctl(r->root_kq, flg ? EPOLL_CTL_MOD : EPOLL_CTL_ADD, TASK_FD(t), &ee) == -1) {
                 if (r->root_hooks.hook_exec.exception)                  if (r->root_hooks.hook_exec.exception)
Line 723  sched_hook_node(void *task, void *arg) Line 694  sched_hook_node(void *task, void *arg)
         sched_task_t *t = task;          sched_task_t *t = task;
         struct kevent chg[1];          struct kevent chg[1];
         struct timespec timeout = { 0, 0 };          struct timespec timeout = { 0, 0 };
        u_int addflags = (u_int) arg;        u_int addflags = (u_int) (uintptr_t) arg;
   
         if (!t || !TASK_ROOT(t))          if (!t || !TASK_ROOT(t))
                 return (void*) -1;                  return (void*) -1;
Line 867  static inline void  Line 838  static inline void 
 fetch_hook_kevent_proceed(int en, struct kevent *res, sched_root_task_t *r)  fetch_hook_kevent_proceed(int en, struct kevent *res, sched_root_task_t *r)
 {  {
         struct kevent evt[1];          struct kevent evt[1];
        register int i;        register int i, flg;
         sched_task_t *task, *tmp;          sched_task_t *task, *tmp;
         struct timespec now = { 0, 0 };          struct timespec now = { 0, 0 };
 #ifdef AIO_SUPPORT  #ifdef AIO_SUPPORT
Line 885  fetch_hook_kevent_proceed(int en, struct kevent *res,  Line 856  fetch_hook_kevent_proceed(int en, struct kevent *res, 
                 memcpy(evt, &res[i], sizeof evt);                  memcpy(evt, &res[i], sizeof evt);
                 evt->flags = EV_DELETE;                  evt->flags = EV_DELETE;
                 /* Put read/write task to ready queue */                  /* Put read/write task to ready queue */
                   flg = 0;
                 switch (res[i].filter) {                  switch (res[i].filter) {
                         case EVFILT_READ:                          case EVFILT_READ:
                                 TAILQ_FOREACH_SAFE(task, &r->root_read, task_node, tmp) {                                  TAILQ_FOREACH_SAFE(task, &r->root_read, task_node, tmp) {
                                         if (TASK_FD(task) == ((intptr_t) res[i].udata)) {                                          if (TASK_FD(task) == ((intptr_t) res[i].udata)) {
                                                TASK_RET(task) = res[i].data;                                                if (!flg) {
                                                TASK_FLAG(task) = (u_long) res[i].fflags;                                                        TASK_RET(task) = res[i].data;
                                                         TASK_FLAG(task) = (u_long) res[i].fflags;
   
                                                /* remove read handle */                                                        /* remove read handle */
                                                remove_task_from(task, &r->root_read);                                                        remove_task_from(task, &r->root_read);
   
                                                if (r->root_hooks.hook_exec.exception && res[i].flags & EV_EOF) {                                                        if (r->root_hooks.hook_exec.exception && res[i].flags & EV_EOF) {
                                                        if (r->root_hooks.hook_exec.exception(r, (void*) EV_EOF)) {                                                                if (r->root_hooks.hook_exec.exception(r, (void*) EV_EOF)) {
                                                                task->task_type = taskUNUSE;                                                                        task->task_type = taskUNUSE;
                                                                insert_task_to(task, &r->root_unuse);                                                                        insert_task_to(task, &r->root_unuse);
                                                                 } else {
                                                                         task->task_type = taskREADY;
                                                                         insert_task_to(task, &r->root_ready);
                                                                 }
                                                         } else {                                                          } else {
                                                                 task->task_type = taskREADY;                                                                  task->task_type = taskREADY;
                                                                 insert_task_to(task, &r->root_ready);                                                                  insert_task_to(task, &r->root_ready);
                                                         }                                                          }
                                                 } else {  
                                                         task->task_type = taskREADY;  
                                                         insert_task_to(task, &r->root_ready);  
                                                 }                                                  }
                                                break;                                                flg++;
                                         }                                          }
                                 }                                  }
                                 break;                                  break;
                         case EVFILT_WRITE:                          case EVFILT_WRITE:
                                 TAILQ_FOREACH_SAFE(task, &r->root_write, task_node, tmp) {                                  TAILQ_FOREACH_SAFE(task, &r->root_write, task_node, tmp) {
                                         if (TASK_FD(task) == ((intptr_t) res[i].udata)) {                                          if (TASK_FD(task) == ((intptr_t) res[i].udata)) {
                                                TASK_RET(task) = res[i].data;                                                if (!flg) {
                                                TASK_FLAG(task) = (u_long) res[i].fflags;                                                        TASK_RET(task) = res[i].data;
                                                         TASK_FLAG(task) = (u_long) res[i].fflags;
   
                                                /* remove write handle */                                                        /* remove write handle */
                                                remove_task_from(task, &r->root_write);                                                        remove_task_from(task, &r->root_write);
   
                                                if (r->root_hooks.hook_exec.exception && res[i].flags & EV_EOF) {                                                        if (r->root_hooks.hook_exec.exception && res[i].flags & EV_EOF) {
                                                        if (r->root_hooks.hook_exec.exception(r, (void*) EV_EOF)) {                                                                if (r->root_hooks.hook_exec.exception(r, (void*) EV_EOF)) {
                                                                task->task_type = taskUNUSE;                                                                        task->task_type = taskUNUSE;
                                                                insert_task_to(task, &r->root_unuse);                                                                        insert_task_to(task, &r->root_unuse);
                                                                 } else {
                                                                         task->task_type = taskREADY;
                                                                         insert_task_to(task, &r->root_ready);
                                                                 }
                                                         } else {                                                          } else {
                                                                 task->task_type = taskREADY;                                                                  task->task_type = taskREADY;
                                                                 insert_task_to(task, &r->root_ready);                                                                  insert_task_to(task, &r->root_ready);
                                                         }                                                          }
                                                 } else {  
                                                         task->task_type = taskREADY;  
                                                         insert_task_to(task, &r->root_ready);  
                                                 }                                                  }
                                                break;                                                flg++;
                                         }                                          }
                                 }                                  }
                                 break;                                  break;
                         case EVFILT_TIMER:                          case EVFILT_TIMER:
                                 TAILQ_FOREACH_SAFE(task, &r->root_alarm, task_node, tmp) {                                  TAILQ_FOREACH_SAFE(task, &r->root_alarm, task_node, tmp) {
                                         if ((uintptr_t) TASK_DATA(task) == ((uintptr_t) res[i].udata)) {                                          if ((uintptr_t) TASK_DATA(task) == ((uintptr_t) res[i].udata)) {
                                                TASK_RET(task) = res[i].data;                                                if (!flg) {
                                                TASK_FLAG(task) = (u_long) res[i].fflags;                                                        TASK_RET(task) = res[i].data;
                                                         TASK_FLAG(task) = (u_long) res[i].fflags;
   
                                                /* remove alarm handle */                                                        /* remove alarm handle */
                                                transit_task2ready(task, &r->root_alarm);                                                        transit_task2ready(task, &r->root_alarm);
                                                break;                                                }
                                                 flg++;
                                         }                                          }
                                 }                                  }
                                 break;                                  break;
                         case EVFILT_VNODE:                          case EVFILT_VNODE:
                                 TAILQ_FOREACH_SAFE(task, &r->root_node, task_node, tmp) {                                  TAILQ_FOREACH_SAFE(task, &r->root_node, task_node, tmp) {
                                         if (TASK_FD(task) == ((intptr_t) res[i].udata)) {                                          if (TASK_FD(task) == ((intptr_t) res[i].udata)) {
                                                TASK_RET(task) = res[i].data;                                                if (!flg) {
                                                TASK_FLAG(task) = (u_long) res[i].fflags;                                                        TASK_RET(task) = res[i].data;
                                                         TASK_FLAG(task) = (u_long) res[i].fflags;
   
                                                /* remove node handle */                                                        /* remove node handle */
                                                transit_task2ready(task, &r->root_node);                                                        transit_task2ready(task, &r->root_node);
                                                break;                                                }
                                                 flg++;
                                         }                                          }
                                 }                                  }
                                 break;                                  break;
                         case EVFILT_PROC:                          case EVFILT_PROC:
                                 TAILQ_FOREACH_SAFE(task, &r->root_proc, task_node, tmp) {                                  TAILQ_FOREACH_SAFE(task, &r->root_proc, task_node, tmp) {
                                         if (TASK_VAL(task) == ((uintptr_t) res[i].udata)) {                                          if (TASK_VAL(task) == ((uintptr_t) res[i].udata)) {
                                                TASK_RET(task) = res[i].data;                                                if (!flg) {
                                                TASK_FLAG(task) = (u_long) res[i].fflags;                                                        TASK_RET(task) = res[i].data;
                                                         TASK_FLAG(task) = (u_long) res[i].fflags;
   
                                                /* remove proc handle */                                                        /* remove proc handle */
                                                transit_task2ready(task, &r->root_proc);                                                        transit_task2ready(task, &r->root_proc);
                                                break;                                                }
                                                 flg++;
                                         }                                          }
                                 }                                  }
                                 break;                                  break;
                         case EVFILT_SIGNAL:                          case EVFILT_SIGNAL:
                                 TAILQ_FOREACH_SAFE(task, &r->root_signal, task_node, tmp) {                                  TAILQ_FOREACH_SAFE(task, &r->root_signal, task_node, tmp) {
                                         if (TASK_VAL(task) == ((uintptr_t) res[i].udata)) {                                          if (TASK_VAL(task) == ((uintptr_t) res[i].udata)) {
                                                TASK_RET(task) = res[i].data;                                                if (!flg) {
                                                TASK_FLAG(task) = (u_long) res[i].fflags;                                                        TASK_RET(task) = res[i].data;
                                                         TASK_FLAG(task) = (u_long) res[i].fflags;
   
                                                /* remove signal handle */                                                        /* remove signal handle */
                                                transit_task2ready(task, &r->root_signal);                                                        transit_task2ready(task, &r->root_signal);
                                                break;                                                }
                                                 flg++;
                                         }                                          }
                                 }                                  }
                                 break;                                  break;
Line 989  fetch_hook_kevent_proceed(int en, struct kevent *res,  Line 973  fetch_hook_kevent_proceed(int en, struct kevent *res, 
                                 TAILQ_FOREACH_SAFE(task, &r->root_aio, task_node, tmp) {                                  TAILQ_FOREACH_SAFE(task, &r->root_aio, task_node, tmp) {
                                         acb = (struct aiocb*) TASK_VAL(task);                                          acb = (struct aiocb*) TASK_VAL(task);
                                         if (acb == ((struct aiocb*) res[i].udata)) {                                          if (acb == ((struct aiocb*) res[i].udata)) {
                                                TASK_RET(task) = res[i].data;                                                if (!flg) {
                                                TASK_FLAG(task) = (u_long) res[i].fflags;                                                        TASK_RET(task) = res[i].data;
                                                                                                        TASK_FLAG(task) = (u_long) res[i].fflags;
                                                /* remove user handle */ 
                                                transit_task2ready(task, &r->root_aio); 
   
                                                fd = acb->aio_fildes;                                                        /* remove user handle */
                                                if ((len = aio_return(acb)) != -1) {                                                        transit_task2ready(task, &r->root_aio);
                                                        if (lseek(fd, acb->aio_offset + len, SEEK_CUR) == -1)
                                                         fd = acb->aio_fildes;
                                                         if ((len = aio_return(acb)) != -1) {
                                                                 if (lseek(fd, acb->aio_offset + len, SEEK_CUR) == -1)
                                                                         LOGERR;
                                                         } else
                                                                 LOGERR;                                                                  LOGERR;
                                                } else                                                        e_free(acb);
                                                        LOGERR;                                                        TASK_DATLEN(task) = (u_long) len;
                                                free(acb);                                                        TASK_FD(task) = fd;
                                                TASK_DATLEN(task) = (u_long) len;                                                }
                                                TASK_FD(task) = fd;                                                flg++;
                                                break; 
                                         }                                          }
                                 }                                  }
                                 break;                                  break;
Line 1013  fetch_hook_kevent_proceed(int en, struct kevent *res,  Line 999  fetch_hook_kevent_proceed(int en, struct kevent *res, 
                                 TAILQ_FOREACH_SAFE(task, &r->root_lio, task_node, tmp) {                                  TAILQ_FOREACH_SAFE(task, &r->root_lio, task_node, tmp) {
                                         acbs = (struct aiocb**) TASK_VAL(task);                                          acbs = (struct aiocb**) TASK_VAL(task);
                                         if (acbs == ((struct aiocb**) res[i].udata)) {                                          if (acbs == ((struct aiocb**) res[i].udata)) {
                                                TASK_RET(task) = res[i].data;                                                if (!flg) {
                                                TASK_FLAG(task) = (u_long) res[i].fflags;                                                        TASK_RET(task) = res[i].data;
                                                         TASK_FLAG(task) = (u_long) res[i].fflags;
   
                                                /* remove user handle */                                                        /* remove user handle */
                                                transit_task2ready(task, &r->root_lio);                                                        transit_task2ready(task, &r->root_lio);
   
                                                iv = (struct iovec*) TASK_DATA(task);                                                        iv = (struct iovec*) TASK_DATA(task);
                                                fd = acbs[0]->aio_fildes;                                                        fd = acbs[0]->aio_fildes;
                                                off = acbs[0]->aio_offset;                                                        off = acbs[0]->aio_offset;
                                                for (len = 0; i < TASK_DATLEN(task); len += l, i++) {                                                        for (len = 0; i < TASK_DATLEN(task); len += l, i++) {
                                                        if ((iv[i].iov_len = aio_return(acbs[i])) == -1)                                                                if ((iv[i].iov_len = aio_return(acbs[i])) == -1)
                                                                l = 0;                                                                        l = 0;
                                                        else                                                                else
                                                                l = iv[i].iov_len;                                                                        l = iv[i].iov_len;
                                                        free(acbs[i]);                                                                e_free(acbs[i]);
                                                }                                                        }
                                                free(acbs);                                                        e_free(acbs);
                                                TASK_DATLEN(task) = (u_long) len;                                                        TASK_DATLEN(task) = (u_long) len;
                                                TASK_FD(task) = fd;                                                        TASK_FD(task) = fd;
   
                                                if (lseek(fd, off + len, SEEK_CUR) == -1)                                                        if (lseek(fd, off + len, SEEK_CUR) == -1)
                                                        LOGERR;                                                                LOGERR;
                                                break;                                                }
                                                 flg++;
                                         }                                          }
                                 }                                  }
                                 break;                                  break;
Line 1045  fetch_hook_kevent_proceed(int en, struct kevent *res,  Line 1033  fetch_hook_kevent_proceed(int en, struct kevent *res, 
                         case EVFILT_USER:                          case EVFILT_USER:
                                 TAILQ_FOREACH_SAFE(task, &r->root_user, task_node, tmp) {                                  TAILQ_FOREACH_SAFE(task, &r->root_user, task_node, tmp) {
                                         if (TASK_VAL(task) == ((uintptr_t) res[i].udata)) {                                          if (TASK_VAL(task) == ((uintptr_t) res[i].udata)) {
                                                TASK_RET(task) = res[i].data;                                                if (!flg) {
                                                TASK_FLAG(task) = (u_long) res[i].fflags;                                                        TASK_RET(task) = res[i].data;
                                                         TASK_FLAG(task) = (u_long) res[i].fflags;
   
                                                /* remove user handle */                                                        /* remove user handle */
                                                transit_task2ready(task, &r->root_user);                                                        transit_task2ready(task, &r->root_user);
                                                break;                                                }
                                                 flg++;
                                         }                                          }
                                 }                                  }
                                 break;                                  break;
 #endif  /* EVFILT_USER */  #endif  /* EVFILT_USER */
                 }                  }
   
                   if (flg > 1)
                           evt->flags &= ~EV_DELETE;
   
                 if (kevent(r->root_kq, evt, 1, NULL, 0, &now) == -1) {                  if (kevent(r->root_kq, evt, 1, NULL, 0, &now) == -1) {
                         if (r->root_hooks.hook_exec.exception)                          if (r->root_hooks.hook_exec.exception)
                                 r->root_hooks.hook_exec.exception(r, NULL);                                  r->root_hooks.hook_exec.exception(r, NULL);
Line 1071  fetch_hook_kevent_proceed(int en, struct kevent *res,  Line 1064  fetch_hook_kevent_proceed(int en, struct kevent *res, 
 static inline void  static inline void
 fetch_hook_epoll_proceed(int en, struct epoll_event *res, sched_root_task_t *r)  fetch_hook_epoll_proceed(int en, struct epoll_event *res, sched_root_task_t *r)
 {  {
        register int i, flg;        register int i, rflg, wflg;
         int ops = EPOLL_CTL_DEL;          int ops = EPOLL_CTL_DEL;
         sched_task_t *t, *tmp, *task;          sched_task_t *t, *tmp, *task;
         struct epoll_event evt[1];          struct epoll_event evt[1];
   
         for (i = 0; i < en; i++) {          for (i = 0; i < en; i++) {
                 memcpy(evt, &res[i], sizeof evt);                  memcpy(evt, &res[i], sizeof evt);
                   evt->events ^= evt->events;
                   rflg = wflg = 0;
   
                if (evt->events & (EPOLLIN | EPOLLPRI)) {                if (res[i].events & (EPOLLIN | EPOLLPRI)) {
                        flg = 0; 
                         task = NULL;                          task = NULL;
                         TAILQ_FOREACH_SAFE(t, &r->root_read, task_node, tmp) {                          TAILQ_FOREACH_SAFE(t, &r->root_read, task_node, tmp) {
                                 if (TASK_FD(t) == evt->data.fd) {                                  if (TASK_FD(t) == evt->data.fd) {
                                        if (!flg)                                        if (!task)
                                                 task = t;                                                  task = t;
                                        flg++;                                        rflg++;
                                 }                                  }
                         }                          }
   
                        if (flg && task) {                        if (task) {
                                 TASK_FLAG(task) = ioctl(TASK_FD(task), FIONREAD, &TASK_RET(task));                                  TASK_FLAG(task) = ioctl(TASK_FD(task), FIONREAD, &TASK_RET(task));
                                 /* remove read handle */                                  /* remove read handle */
                                 remove_task_from(task, &r->root_read);                                  remove_task_from(task, &r->root_read);
Line 1109  fetch_hook_epoll_proceed(int en, struct epoll_event *r Line 1103  fetch_hook_epoll_proceed(int en, struct epoll_event *r
                                         insert_task_to(task, &r->root_ready);                                          insert_task_to(task, &r->root_ready);
                                 }                                  }
   
                                evt->events ^= evt->events;                                if (!(res[i].events & EPOLLOUT) && FD_ISSET(evt->data.fd, &r->root_fds[1])) {
                                if (FD_ISSET(evt->data.fd, &r->root_fds[1])) { 
                                        ops = EPOLL_CTL_MOD; 
                                         evt->events |= EPOLLOUT;                                          evt->events |= EPOLLOUT;
                                           wflg = 42;
                                 }                                  }
                                if (flg > 1) {                                if (rflg > 1)
                                        ops = EPOLL_CTL_MOD; 
                                         evt->events |= EPOLLIN | EPOLLPRI;                                          evt->events |= EPOLLIN | EPOLLPRI;
                                } else                                else
                                         FD_CLR(evt->data.fd, &r->root_fds[0]);                                          FD_CLR(evt->data.fd, &r->root_fds[0]);
                         }                          }
                } else if (evt->events & EPOLLOUT) {                }
                        flg = 0;                if (res[i].events & EPOLLOUT) {
                         task = NULL;                          task = NULL;
                         TAILQ_FOREACH_SAFE(t, &r->root_write, task_node, tmp) {                          TAILQ_FOREACH_SAFE(t, &r->root_write, task_node, tmp) {
                                 if (TASK_FD(t) == evt->data.fd) {                                  if (TASK_FD(t) == evt->data.fd) {
                                        if (!flg)                                        if (!task)
                                                 task = t;                                                  task = t;
                                        flg++;                                        wflg++;
                                 }                                  }
                         }                          }
   
                        if (flg && task) {                        if (task) {
                                 TASK_FLAG(task) = ioctl(TASK_FD(task), FIONWRITE, &TASK_RET(task));                                  TASK_FLAG(task) = ioctl(TASK_FD(task), FIONWRITE, &TASK_RET(task));
                                 /* remove write handle */                                  /* remove write handle */
                                 remove_task_from(task, &r->root_write);                                  remove_task_from(task, &r->root_write);
Line 1150  fetch_hook_epoll_proceed(int en, struct epoll_event *r Line 1142  fetch_hook_epoll_proceed(int en, struct epoll_event *r
                                         insert_task_to(task, &r->root_ready);                                          insert_task_to(task, &r->root_ready);
                                 }                                  }
   
                                evt->events ^= evt->events;                                if (!(res[i].events & (EPOLLIN | EPOLLPRI)) && FD_ISSET(evt->data.fd, &r->root_fds[0])) {
                                if (FD_ISSET(evt->data.fd, &r->root_fds[0])) { 
                                        ops = EPOLL_CTL_MOD; 
                                         evt->events |= EPOLLIN | EPOLLPRI;                                          evt->events |= EPOLLIN | EPOLLPRI;
                                           rflg = 42;
                                 }                                  }
                                if (flg > 1) {                                if (wflg > 1)
                                        ops = EPOLL_CTL_MOD; 
                                         evt->events |= EPOLLOUT;                                          evt->events |= EPOLLOUT;
                                } else                                else
                                         FD_CLR(evt->data.fd, &r->root_fds[1]);                                          FD_CLR(evt->data.fd, &r->root_fds[1]);
                         }                          }
                 }                  }
   
                   if (rflg > 1 || wflg > 1)
                           ops = EPOLL_CTL_MOD;
   
                 if (epoll_ctl(r->root_kq, ops, evt->data.fd, evt) == -1) {                  if (epoll_ctl(r->root_kq, ops, evt->data.fd, evt) == -1) {
                         if (r->root_hooks.hook_exec.exception) {                          if (r->root_hooks.hook_exec.exception) {
                                 r->root_hooks.hook_exec.exception(r, NULL);                                  r->root_hooks.hook_exec.exception(r, NULL);
Line 1177  fetch_hook_epoll_proceed(int en, struct epoll_event *r Line 1170  fetch_hook_epoll_proceed(int en, struct epoll_event *r
 static inline void   static inline void 
 fetch_hook_select_proceed(int en, fd_set rfd, fd_set wfd, fd_set xfd, sched_root_task_t *r)  fetch_hook_select_proceed(int en, fd_set rfd, fd_set wfd, fd_set xfd, sched_root_task_t *r)
 {  {
        register int i, flg;        register int i, rflg, wflg;
        sched_task_t *t, *tmp, *task = NULL;        sched_task_t *t, *tmp, *task;
   
         /* skip select check if return value from select is zero */          /* skip select check if return value from select is zero */
         if (!en)          if (!en)
                 return;                  return;
   
         for (i = 0; i < r->root_kq; i++) {          for (i = 0; i < r->root_kq; i++) {
                   if (!FD_ISSET(i, &r->root_fds[0]) && !FD_ISSET(i, &r->root_fds[1]))
                           continue;
   
                   rflg = wflg = 0;
   
                 if (FD_ISSET(i, &rfd) || FD_ISSET(i, &xfd)) {                  if (FD_ISSET(i, &rfd) || FD_ISSET(i, &xfd)) {
                        flg = 0;                        task = NULL;
                         TAILQ_FOREACH_SAFE(t, &r->root_read, task_node, tmp) {                          TAILQ_FOREACH_SAFE(t, &r->root_read, task_node, tmp) {
                                 if (TASK_FD(t) == i) {                                  if (TASK_FD(t) == i) {
                                        if (!flg)                                        if (!task)
                                                 task = t;                                                  task = t;
                                        flg++;                                        rflg++;
                                 }                                  }
                         }                          }
   
                        if (flg && task) {                        if (task) {
                                 TASK_FLAG(task) = ioctl(TASK_FD(task), FIONREAD, &TASK_RET(task));                                  TASK_FLAG(task) = ioctl(TASK_FD(task), FIONREAD, &TASK_RET(task));
   
                                 /* remove read handle */                                  /* remove read handle */
Line 1215  fetch_hook_select_proceed(int en, fd_set rfd, fd_set w Line 1213  fetch_hook_select_proceed(int en, fd_set rfd, fd_set w
                                 }                                  }
   
                                 /* remove resouce */                                  /* remove resouce */
                                if (flg == 1)                                if (rflg == 1)
                                         FD_CLR(i, &r->root_fds[0]);                                          FD_CLR(i, &r->root_fds[0]);
                         }                          }
                } else if (FD_ISSET(i, &wfd)) {                }
                        flg = 0;                if (FD_ISSET(i, &wfd)) {
                         task = NULL;
                         TAILQ_FOREACH_SAFE(t, &r->root_write, task_node, tmp) {                          TAILQ_FOREACH_SAFE(t, &r->root_write, task_node, tmp) {
                                 if (TASK_FD(t) == i) {                                  if (TASK_FD(t) == i) {
                                        if (!flg)                                        if (!task)
                                                 task = t;                                                  task = t;
                                        flg++;                                        wflg++;
                                 }                                  }
                         }                          }
   
                        if (flg && task) {                        if (task) {
                                 TASK_FLAG(task) = ioctl(TASK_FD(task), FIONWRITE, &TASK_RET(task));                                  TASK_FLAG(task) = ioctl(TASK_FD(task), FIONWRITE, &TASK_RET(task));
   
                                 /* remove write handle */                                  /* remove write handle */
Line 1248  fetch_hook_select_proceed(int en, fd_set rfd, fd_set w Line 1247  fetch_hook_select_proceed(int en, fd_set rfd, fd_set w
                                 }                                  }
   
                                 /* remove resouce */                                  /* remove resouce */
                                if (flg == 1)                                if (wflg == 1)
                                         FD_CLR(i, &r->root_fds[1]);                                          FD_CLR(i, &r->root_fds[1]);
                         }                          }
                 }                  }
         }          }
   
         /* optimize select */          /* optimize select */
        for (i = r->root_kq - 1; i > 2; i--)        for (i = r->root_kq - 1; i >= 0; i--)
                 if (FD_ISSET(i, &r->root_fds[0]) || FD_ISSET(i, &r->root_fds[1]))                  if (FD_ISSET(i, &r->root_fds[0]) || FD_ISSET(i, &r->root_fds[1]))
                         break;                          break;
        if (i > 2)        r->root_kq = i + 1;
                r->root_kq = i + 1; 
 }  }
 #endif  #endif
   
Removed from v.1.34  
changed lines
  Added in v.1.37

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>