Annotation of embedaddon/rsync/generator.c, revision 1.1.1.2

1.1       misho       1: /*
                      2:  * Routines that are exclusive to the generator process.
                      3:  *
                      4:  * Copyright (C) 1996-2000 Andrew Tridgell
                      5:  * Copyright (C) 1996 Paul Mackerras
                      6:  * Copyright (C) 2002 Martin Pool <mbp@samba.org>
1.1.1.2 ! misho       7:  * Copyright (C) 2003-2013 Wayne Davison
1.1       misho       8:  *
                      9:  * This program is free software; you can redistribute it and/or modify
                     10:  * it under the terms of the GNU General Public License as published by
                     11:  * the Free Software Foundation; either version 3 of the License, or
                     12:  * (at your option) any later version.
                     13:  *
                     14:  * This program is distributed in the hope that it will be useful,
                     15:  * but WITHOUT ANY WARRANTY; without even the implied warranty of
                     16:  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
                     17:  * GNU General Public License for more details.
                     18:  *
                     19:  * You should have received a copy of the GNU General Public License along
                     20:  * with this program; if not, visit the http://fsf.org website.
                     21:  */
                     22: 
                     23: #include "rsync.h"
1.1.1.2 ! misho      24: #include "inums.h"
        !            25: #include "ifuncs.h"
1.1       misho      26: 
                     27: extern int dry_run;
                     28: extern int do_xfers;
                     29: extern int stdout_format_has_i;
                     30: extern int logfile_format_has_i;
                     31: extern int am_root;
                     32: extern int am_server;
                     33: extern int am_daemon;
                     34: extern int inc_recurse;
                     35: extern int relative_paths;
                     36: extern int implied_dirs;
                     37: extern int keep_dirlinks;
                     38: extern int preserve_acls;
                     39: extern int preserve_xattrs;
                     40: extern int preserve_links;
                     41: extern int preserve_devices;
                     42: extern int preserve_specials;
                     43: extern int preserve_hard_links;
                     44: extern int preserve_executability;
                     45: extern int preserve_perms;
                     46: extern int preserve_times;
                     47: extern int delete_mode;
                     48: extern int delete_before;
                     49: extern int delete_during;
                     50: extern int delete_after;
1.1.1.2 ! misho      51: extern int missing_args;
1.1       misho      52: extern int msgdone_cnt;
                     53: extern int ignore_errors;
                     54: extern int remove_source_files;
                     55: extern int delay_updates;
                     56: extern int update_only;
1.1.1.2 ! misho      57: extern int human_readable;
1.1       misho      58: extern int ignore_existing;
                     59: extern int ignore_non_existing;
                     60: extern int inplace;
                     61: extern int append_mode;
                     62: extern int make_backups;
                     63: extern int csum_length;
                     64: extern int ignore_times;
                     65: extern int size_only;
                     66: extern OFF_T max_size;
                     67: extern OFF_T min_size;
                     68: extern int io_error;
                     69: extern int flist_eof;
                     70: extern int allowed_lull;
                     71: extern int sock_f_out;
                     72: extern int protocol_version;
                     73: extern int file_total;
                     74: extern int fuzzy_basis;
                     75: extern int always_checksum;
                     76: extern int checksum_len;
                     77: extern char *partial_dir;
                     78: extern int compare_dest;
                     79: extern int copy_dest;
                     80: extern int link_dest;
                     81: extern int whole_file;
                     82: extern int list_only;
                     83: extern int read_batch;
1.1.1.2 ! misho      84: extern int write_batch;
1.1       misho      85: extern int safe_symlinks;
                     86: extern long block_size; /* "long" because popt can't set an int32. */
                     87: extern int unsort_ndx;
                     88: extern int max_delete;
                     89: extern int force_delete;
                     90: extern int one_file_system;
1.1.1.2 ! misho      91: extern int skipped_deletes;
1.1       misho      92: extern dev_t filesystem_dev;
                     93: extern mode_t orig_umask;
                     94: extern uid_t our_uid;
1.1.1.2 ! misho      95: extern char *tmpdir;
        !            96: extern char *basis_dir[MAX_BASIS_DIRS+1];
1.1       misho      97: extern struct file_list *cur_flist, *first_flist, *dir_flist;
1.1.1.2 ! misho      98: extern filter_rule_list filter_list, daemon_filter_list;
1.1       misho      99: 
                    100: int maybe_ATTRS_REPORT = 0;
                    101: 
                    102: static dev_t dev_zero;
                    103: static int deldelay_size = 0, deldelay_cnt = 0;
                    104: static char *deldelay_buf = NULL;
                    105: static int deldelay_fd = -1;
                    106: static int loopchk_limit;
                    107: static int dir_tweaking;
                    108: static int symlink_timeset_failed_flags;
                    109: static int need_retouch_dir_times;
                    110: static int need_retouch_dir_perms;
                    111: static const char *solo_file = NULL;
                    112: 
                    113: enum nonregtype {
                    114:     TYPE_DIR, TYPE_SPECIAL, TYPE_DEVICE, TYPE_SYMLINK
                    115: };
                    116: 
                    117: /* Forward declarations. */
                    118: #ifdef SUPPORT_HARD_LINKS
                    119: static void handle_skipped_hlink(struct file_struct *file, int itemizing,
                    120:                                 enum logcode code, int f_out);
                    121: #endif
                    122: 
1.1.1.2 ! misho     123: #define EARLY_DELAY_DONE_MSG() (!delay_updates)
        !           124: #define EARLY_DELETE_DONE_MSG() (!(delete_during == 2 || delete_after))
1.1       misho     125: 
                    126: static int start_delete_delay_temp(void)
                    127: {
                    128:        char fnametmp[MAXPATHLEN];
                    129:        int save_dry_run = dry_run;
                    130: 
                    131:        dry_run = 0;
1.1.1.2 ! misho     132:        if (!get_tmpname(fnametmp, "deldelay", False)
1.1       misho     133:         || (deldelay_fd = do_mkstemp(fnametmp, 0600)) < 0) {
                    134:                rprintf(FINFO, "NOTE: Unable to create delete-delay temp file%s.\n",
                    135:                        inc_recurse ? "" : " -- switching to --delete-after");
                    136:                delete_during = 0;
                    137:                delete_after = !inc_recurse;
                    138:                dry_run = save_dry_run;
                    139:                return 0;
                    140:        }
                    141:        unlink(fnametmp);
                    142:        dry_run = save_dry_run;
                    143:        return 1;
                    144: }
                    145: 
                    146: static int flush_delete_delay(void)
                    147: {
                    148:        if (deldelay_fd < 0 && !start_delete_delay_temp())
                    149:                return 0;
                    150:        if (write(deldelay_fd, deldelay_buf, deldelay_cnt) != deldelay_cnt) {
                    151:                rsyserr(FERROR, errno, "flush of delete-delay buffer");
                    152:                delete_during = 0;
                    153:                delete_after = !inc_recurse;
                    154:                close(deldelay_fd);
                    155:                return 0;
                    156:        }
                    157:        deldelay_cnt = 0;
                    158:        return 1;
                    159: }
                    160: 
                    161: static int remember_delete(struct file_struct *file, const char *fname, int flags)
                    162: {
                    163:        int len;
                    164: 
                    165:        if (deldelay_cnt == deldelay_size && !flush_delete_delay())
                    166:                return 0;
                    167: 
                    168:        if (flags & DEL_NO_UID_WRITE)
                    169:                deldelay_buf[deldelay_cnt++] = '!';
                    170: 
                    171:        while (1) {
                    172:                len = snprintf(deldelay_buf + deldelay_cnt,
                    173:                               deldelay_size - deldelay_cnt,
                    174:                               "%x %s%c",
                    175:                               (int)file->mode, fname, '\0');
                    176:                if ((deldelay_cnt += len) <= deldelay_size)
                    177:                        break;
                    178:                deldelay_cnt -= len;
                    179:                if (!flush_delete_delay())
                    180:                        return 0;
                    181:        }
                    182: 
                    183:        return 1;
                    184: }
                    185: 
                    186: static int read_delay_line(char *buf, int *flags_p)
                    187: {
                    188:        static int read_pos = 0;
                    189:        int j, len, mode;
                    190:        char *bp, *past_space;
                    191: 
                    192:        while (1) {
                    193:                for (j = read_pos; j < deldelay_cnt && deldelay_buf[j]; j++) {}
                    194:                if (j < deldelay_cnt)
                    195:                        break;
                    196:                if (deldelay_fd < 0) {
                    197:                        if (j > read_pos)
                    198:                                goto invalid_data;
                    199:                        return -1;
                    200:                }
                    201:                deldelay_cnt -= read_pos;
                    202:                if (deldelay_cnt == deldelay_size)
                    203:                        goto invalid_data;
                    204:                if (deldelay_cnt && read_pos) {
                    205:                        memmove(deldelay_buf, deldelay_buf + read_pos,
                    206:                                deldelay_cnt);
                    207:                }
                    208:                len = read(deldelay_fd, deldelay_buf + deldelay_cnt,
                    209:                           deldelay_size - deldelay_cnt);
                    210:                if (len == 0) {
                    211:                        if (deldelay_cnt) {
                    212:                                rprintf(FERROR,
                    213:                                    "ERROR: unexpected EOF in delete-delay file.\n");
                    214:                        }
                    215:                        return -1;
                    216:                }
                    217:                if (len < 0) {
                    218:                        rsyserr(FERROR, errno,
                    219:                                "reading delete-delay file");
                    220:                        return -1;
                    221:                }
                    222:                deldelay_cnt += len;
                    223:                read_pos = 0;
                    224:        }
                    225: 
                    226:        bp = deldelay_buf + read_pos;
                    227:        if (*bp == '!') {
                    228:                bp++;
                    229:                *flags_p = DEL_NO_UID_WRITE;
                    230:        } else
                    231:                *flags_p = 0;
                    232: 
                    233:        if (sscanf(bp, "%x ", &mode) != 1) {
                    234:          invalid_data:
                    235:                rprintf(FERROR, "ERROR: invalid data in delete-delay file.\n");
                    236:                return -1;
                    237:        }
                    238:        past_space = strchr(bp, ' ') + 1;
                    239:        len = j - read_pos - (past_space - bp) + 1; /* count the '\0' */
                    240:        read_pos = j + 1;
                    241: 
                    242:        if (len > MAXPATHLEN) {
                    243:                rprintf(FERROR, "ERROR: filename too long in delete-delay file.\n");
                    244:                return -1;
                    245:        }
                    246: 
                    247:        /* The caller needs the name in a MAXPATHLEN buffer, so we copy it
                    248:         * instead of returning a pointer to our buffer. */
                    249:        memcpy(buf, past_space, len);
                    250: 
                    251:        return mode;
                    252: }
                    253: 
                    254: static void do_delayed_deletions(char *delbuf)
                    255: {
                    256:        int mode, flags;
                    257: 
                    258:        if (deldelay_fd >= 0) {
                    259:                if (deldelay_cnt && !flush_delete_delay())
                    260:                        return;
                    261:                lseek(deldelay_fd, 0, 0);
                    262:        }
                    263:        while ((mode = read_delay_line(delbuf, &flags)) >= 0)
                    264:                delete_item(delbuf, mode, flags | DEL_RECURSE);
                    265:        if (deldelay_fd >= 0)
                    266:                close(deldelay_fd);
                    267: }
                    268: 
                    269: /* This function is used to implement per-directory deletion, and is used by
                    270:  * all the --delete-WHEN options.  Note that the fbuf pointer must point to a
                    271:  * MAXPATHLEN buffer with the name of the directory in it (the functions we
                    272:  * call will append names onto the end, but the old dir value will be restored
                    273:  * on exit). */
                    274: static void delete_in_dir(char *fbuf, struct file_struct *file, dev_t *fs_dev)
                    275: {
                    276:        static int already_warned = 0;
                    277:        struct file_list *dirlist;
                    278:        char delbuf[MAXPATHLEN];
                    279:        int dlen, i;
                    280: 
                    281:        if (!fbuf) {
                    282:                change_local_filter_dir(NULL, 0, 0);
                    283:                return;
                    284:        }
                    285: 
1.1.1.2 ! misho     286:        if (DEBUG_GTE(DEL, 2))
1.1       misho     287:                rprintf(FINFO, "delete_in_dir(%s)\n", fbuf);
                    288: 
                    289:        if (allowed_lull)
1.1.1.2 ! misho     290:                maybe_send_keepalive(time(NULL), MSK_ALLOW_FLUSH);
1.1       misho     291: 
1.1.1.2 ! misho     292:        if (io_error & IOERR_GENERAL && !ignore_errors) {
1.1       misho     293:                if (already_warned)
                    294:                        return;
                    295:                rprintf(FINFO,
                    296:                        "IO error encountered -- skipping file deletion\n");
                    297:                already_warned = 1;
                    298:                return;
                    299:        }
                    300: 
                    301:        dlen = strlen(fbuf);
                    302:        change_local_filter_dir(fbuf, dlen, F_DEPTH(file));
                    303: 
                    304:        if (one_file_system) {
                    305:                if (file->flags & FLAG_TOP_DIR)
                    306:                        filesystem_dev = *fs_dev;
                    307:                else if (filesystem_dev != *fs_dev)
                    308:                        return;
                    309:        }
                    310: 
                    311:        dirlist = get_dirlist(fbuf, dlen, 0);
                    312: 
                    313:        /* If an item in dirlist is not found in flist, delete it
                    314:         * from the filesystem. */
                    315:        for (i = dirlist->used; i--; ) {
                    316:                struct file_struct *fp = dirlist->files[i];
                    317:                if (!F_IS_ACTIVE(fp))
                    318:                        continue;
                    319:                if (fp->flags & FLAG_MOUNT_DIR && S_ISDIR(fp->mode)) {
1.1.1.2 ! misho     320:                        if (INFO_GTE(MOUNT, 1))
1.1       misho     321:                                rprintf(FINFO, "cannot delete mount point: %s\n",
                    322:                                        f_name(fp, NULL));
                    323:                        continue;
                    324:                }
                    325:                /* Here we want to match regardless of file type.  Replacement
                    326:                 * of a file with one of another type is handled separately by
                    327:                 * a delete_item call with a DEL_MAKE_ROOM flag. */
                    328:                if (flist_find_ignore_dirness(cur_flist, fp) < 0) {
                    329:                        int flags = DEL_RECURSE;
                    330:                        if (!(fp->mode & S_IWUSR) && !am_root && fp->flags & FLAG_OWNED_BY_US)
                    331:                                flags |= DEL_NO_UID_WRITE;
                    332:                        f_name(fp, delbuf);
                    333:                        if (delete_during == 2) {
                    334:                                if (!remember_delete(fp, delbuf, flags))
                    335:                                        break;
                    336:                        } else
                    337:                                delete_item(delbuf, fp->mode, flags);
                    338:                }
                    339:        }
                    340: 
                    341:        flist_free(dirlist);
                    342: }
                    343: 
                    344: /* This deletes any files on the receiving side that are not present on the
                    345:  * sending side.  This is used by --delete-before and --delete-after. */
                    346: static void do_delete_pass(void)
                    347: {
                    348:        char fbuf[MAXPATHLEN];
                    349:        STRUCT_STAT st;
                    350:        int j;
                    351: 
                    352:        /* dry_run is incremented when the destination doesn't exist yet. */
                    353:        if (dry_run > 1 || list_only)
                    354:                return;
                    355: 
                    356:        for (j = 0; j < cur_flist->used; j++) {
                    357:                struct file_struct *file = cur_flist->sorted[j];
                    358: 
                    359:                f_name(file, fbuf);
                    360: 
                    361:                if (!(file->flags & FLAG_CONTENT_DIR)) {
                    362:                        change_local_filter_dir(fbuf, strlen(fbuf), F_DEPTH(file));
                    363:                        continue;
                    364:                }
                    365: 
1.1.1.2 ! misho     366:                if (DEBUG_GTE(DEL, 1) && file->flags & FLAG_TOP_DIR)
1.1       misho     367:                        rprintf(FINFO, "deleting in %s\n", fbuf);
                    368: 
                    369:                if (link_stat(fbuf, &st, keep_dirlinks) < 0
                    370:                 || !S_ISDIR(st.st_mode))
                    371:                        continue;
                    372: 
                    373:                delete_in_dir(fbuf, file, &st.st_dev);
                    374:        }
                    375:        delete_in_dir(NULL, NULL, &dev_zero);
                    376: 
1.1.1.2 ! misho     377:        if (INFO_GTE(FLIST, 2) && !am_server)
1.1       misho     378:                rprintf(FINFO, "                    \r");
                    379: }
                    380: 
                    381: static inline int time_differs(struct file_struct *file, stat_x *sxp)
                    382: {
                    383:        return cmp_time(sxp->st.st_mtime, file->modtime);
                    384: }
                    385: 
                    386: static inline int perms_differ(struct file_struct *file, stat_x *sxp)
                    387: {
                    388:        if (preserve_perms)
                    389:                return !BITS_EQUAL(sxp->st.st_mode, file->mode, CHMOD_BITS);
                    390: 
                    391:        if (preserve_executability)
                    392:                return (sxp->st.st_mode & 0111 ? 1 : 0) ^ (file->mode & 0111 ? 1 : 0);
                    393: 
                    394:        return 0;
                    395: }
                    396: 
                    397: static inline int ownership_differs(struct file_struct *file, stat_x *sxp)
                    398: {
                    399:        if (am_root && uid_ndx && sxp->st.st_uid != (uid_t)F_OWNER(file))
                    400:                return 1;
                    401: 
                    402:        if (gid_ndx && !(file->flags & FLAG_SKIP_GROUP) && sxp->st.st_gid != (gid_t)F_GROUP(file))
                    403:                return 1;
                    404: 
                    405:        return 0;
                    406: }
                    407: 
                    408: #ifdef SUPPORT_ACLS
                    409: static inline int acls_differ(const char *fname, struct file_struct *file, stat_x *sxp)
                    410: {
                    411:        if (preserve_acls) {
                    412:                if (!ACL_READY(*sxp))
                    413:                        get_acl(fname, sxp);
                    414:                if (set_acl(NULL, file, sxp, file->mode))
                    415:                        return 1;
                    416:        }
                    417: 
                    418:        return 0;
                    419: }
                    420: #endif
                    421: 
                    422: #ifdef SUPPORT_XATTRS
                    423: static inline int xattrs_differ(const char *fname, struct file_struct *file, stat_x *sxp)
                    424: {
                    425:        if (preserve_xattrs) {
                    426:                if (!XATTR_READY(*sxp))
                    427:                        get_xattr(fname, sxp);
                    428:                if (xattr_diff(file, sxp, 0))
                    429:                        return 1;
                    430:        }
                    431: 
                    432:        return 0;
                    433: }
                    434: #endif
                    435: 
                    436: int unchanged_attrs(const char *fname, struct file_struct *file, stat_x *sxp)
                    437: {
                    438:        if (S_ISLNK(file->mode)) {
                    439: #ifdef CAN_SET_SYMLINK_TIMES
                    440:                if (preserve_times & PRESERVE_LINK_TIMES && time_differs(file, sxp))
                    441:                        return 0;
                    442: #endif
                    443: #ifdef CAN_CHMOD_SYMLINK
                    444:                if (perms_differ(file, sxp))
                    445:                        return 0;
                    446: #endif
                    447: #ifdef CAN_CHOWN_SYMLINK
                    448:                if (ownership_differs(file, sxp))
                    449:                        return 0;
                    450: #endif
                    451: #if defined SUPPORT_ACLS && 0 /* no current symlink-ACL support */
                    452:                if (acls_differ(fname, file, sxp))
                    453:                        return 0;
                    454: #endif
                    455: #if defined SUPPORT_XATTRS && !defined NO_SYMLINK_XATTRS
                    456:                if (xattrs_differ(fname, file, sxp))
                    457:                        return 0;
                    458: #endif
                    459:        } else {
                    460:                if (preserve_times && time_differs(file, sxp))
                    461:                        return 0;
                    462:                if (perms_differ(file, sxp))
                    463:                        return 0;
                    464:                if (ownership_differs(file, sxp))
                    465:                        return 0;
                    466: #ifdef SUPPORT_ACLS
                    467:                if (acls_differ(fname, file, sxp))
                    468:                        return 0;
                    469: #endif
                    470: #ifdef SUPPORT_XATTRS
                    471:                if (xattrs_differ(fname, file, sxp))
                    472:                        return 0;
                    473: #endif
                    474:        }
                    475: 
                    476:        return 1;
                    477: }
                    478: 
                    479: void itemize(const char *fnamecmp, struct file_struct *file, int ndx, int statret,
                    480:             stat_x *sxp, int32 iflags, uchar fnamecmp_type,
                    481:             const char *xname)
                    482: {
                    483:        if (statret >= 0) { /* A from-dest-dir statret can == 1! */
                    484:                int keep_time = !preserve_times ? 0
                    485:                    : S_ISDIR(file->mode) ? preserve_times & PRESERVE_DIR_TIMES
                    486:                    : S_ISLNK(file->mode) ? preserve_times & PRESERVE_LINK_TIMES
                    487:                    : 1;
                    488: 
                    489:                if (S_ISREG(file->mode) && F_LENGTH(file) != sxp->st.st_size)
                    490:                        iflags |= ITEM_REPORT_SIZE;
                    491:                if (file->flags & FLAG_TIME_FAILED) { /* symlinks only */
                    492:                        if (iflags & ITEM_LOCAL_CHANGE)
                    493:                                iflags |= symlink_timeset_failed_flags;
                    494:                } else if (keep_time
                    495:                 ? cmp_time(file->modtime, sxp->st.st_mtime) != 0
                    496:                 : iflags & (ITEM_TRANSFER|ITEM_LOCAL_CHANGE) && !(iflags & ITEM_MATCHED)
                    497:                  && (!(iflags & ITEM_XNAME_FOLLOWS) || *xname))
                    498:                        iflags |= ITEM_REPORT_TIME;
                    499: #if !defined HAVE_LCHMOD && !defined HAVE_SETATTRLIST
                    500:                if (S_ISLNK(file->mode)) {
                    501:                        ;
                    502:                } else
                    503: #endif
                    504:                if (preserve_perms) {
                    505:                        if (!BITS_EQUAL(sxp->st.st_mode, file->mode, CHMOD_BITS))
                    506:                                iflags |= ITEM_REPORT_PERMS;
                    507:                } else if (preserve_executability
                    508:                 && ((sxp->st.st_mode & 0111 ? 1 : 0) ^ (file->mode & 0111 ? 1 : 0)))
                    509:                        iflags |= ITEM_REPORT_PERMS;
                    510:                if (uid_ndx && am_root && (uid_t)F_OWNER(file) != sxp->st.st_uid)
                    511:                        iflags |= ITEM_REPORT_OWNER;
                    512:                if (gid_ndx && !(file->flags & FLAG_SKIP_GROUP)
                    513:                    && sxp->st.st_gid != (gid_t)F_GROUP(file))
                    514:                        iflags |= ITEM_REPORT_GROUP;
                    515: #ifdef SUPPORT_ACLS
                    516:                if (preserve_acls && !S_ISLNK(file->mode)) {
                    517:                        if (!ACL_READY(*sxp))
                    518:                                get_acl(fnamecmp, sxp);
                    519:                        if (set_acl(NULL, file, sxp, file->mode))
                    520:                                iflags |= ITEM_REPORT_ACL;
                    521:                }
                    522: #endif
                    523: #ifdef SUPPORT_XATTRS
                    524:                if (preserve_xattrs) {
                    525:                        if (!XATTR_READY(*sxp))
                    526:                                get_xattr(fnamecmp, sxp);
                    527:                        if (xattr_diff(file, sxp, 1))
                    528:                                iflags |= ITEM_REPORT_XATTR;
                    529:                }
                    530: #endif
                    531:        } else {
                    532: #ifdef SUPPORT_XATTRS
                    533:                if (preserve_xattrs && xattr_diff(file, NULL, 1))
                    534:                        iflags |= ITEM_REPORT_XATTR;
                    535: #endif
                    536:                iflags |= ITEM_IS_NEW;
                    537:        }
                    538: 
                    539:        iflags &= 0xffff;
1.1.1.2 ! misho     540:        if ((iflags & (SIGNIFICANT_ITEM_FLAGS|ITEM_REPORT_XATTR) || INFO_GTE(NAME, 2)
1.1       misho     541:          || stdout_format_has_i > 1 || (xname && *xname)) && !read_batch) {
                    542:                if (protocol_version >= 29) {
                    543:                        if (ndx >= 0)
                    544:                                write_ndx(sock_f_out, ndx);
                    545:                        write_shortint(sock_f_out, iflags);
                    546:                        if (iflags & ITEM_BASIS_TYPE_FOLLOWS)
                    547:                                write_byte(sock_f_out, fnamecmp_type);
                    548:                        if (iflags & ITEM_XNAME_FOLLOWS)
                    549:                                write_vstring(sock_f_out, xname, strlen(xname));
                    550: #ifdef SUPPORT_XATTRS
                    551:                        if (preserve_xattrs && do_xfers
                    552:                         && iflags & (ITEM_REPORT_XATTR|ITEM_TRANSFER)) {
1.1.1.2 ! misho     553:                                int fd = iflags & ITEM_REPORT_XATTR
        !           554:                                      && (protocol_version < 31 || !BITS_SET(iflags, ITEM_XNAME_FOLLOWS|ITEM_LOCAL_CHANGE))
        !           555:                                       ? sock_f_out : -1;
        !           556:                                send_xattr_request(NULL, file, fd);
1.1       misho     557:                        }
                    558: #endif
                    559:                } else if (ndx >= 0) {
                    560:                        enum logcode code = logfile_format_has_i ? FINFO : FCLIENT;
1.1.1.2 ! misho     561:                        log_item(code, file, iflags, xname);
1.1       misho     562:                }
                    563:        }
                    564: }
                    565: 
                    566: 
                    567: /* Perform our quick-check heuristic for determining if a file is unchanged. */
                    568: int unchanged_file(char *fn, struct file_struct *file, STRUCT_STAT *st)
                    569: {
                    570:        if (st->st_size != F_LENGTH(file))
                    571:                return 0;
                    572: 
                    573:        /* if always checksum is set then we use the checksum instead
                    574:           of the file time to determine whether to sync */
                    575:        if (always_checksum > 0 && S_ISREG(st->st_mode)) {
                    576:                char sum[MAX_DIGEST_LEN];
                    577:                file_checksum(fn, sum, st->st_size);
                    578:                return memcmp(sum, F_SUM(file), checksum_len) == 0;
                    579:        }
                    580: 
                    581:        if (size_only > 0)
                    582:                return 1;
                    583: 
                    584:        if (ignore_times)
                    585:                return 0;
                    586: 
                    587:        return cmp_time(st->st_mtime, file->modtime) == 0;
                    588: }
                    589: 
                    590: 
                    591: /*
                    592:  * set (initialize) the size entries in the per-file sum_struct
                    593:  * calculating dynamic block and checksum sizes.
                    594:  *
                    595:  * This is only called from generate_and_send_sums() but is a separate
                    596:  * function to encapsulate the logic.
                    597:  *
                    598:  * The block size is a rounded square root of file length.
                    599:  *
                    600:  * The checksum size is determined according to:
                    601:  *     blocksum_bits = BLOCKSUM_BIAS + 2*log2(file_len) - log2(block_len)
                    602:  * provided by Donovan Baarda which gives a probability of rsync
                    603:  * algorithm corrupting data and falling back using the whole md4
                    604:  * checksums.
                    605:  *
                    606:  * This might be made one of several selectable heuristics.
                    607:  */
                    608: static void sum_sizes_sqroot(struct sum_struct *sum, int64 len)
                    609: {
                    610:        int32 blength;
                    611:        int s2length;
                    612:        int64 l;
                    613: 
                    614:        if (len < 0) {
                    615:                /* The file length overflowed our int64 var, so we can't process this file. */
                    616:                sum->count = -1; /* indicate overflow error */
                    617:                return;
                    618:        }
                    619: 
                    620:        if (block_size)
                    621:                blength = block_size;
                    622:        else if (len <= BLOCK_SIZE * BLOCK_SIZE)
                    623:                blength = BLOCK_SIZE;
                    624:        else {
                    625:                int32 max_blength = protocol_version < 30 ? OLD_MAX_BLOCK_SIZE : MAX_BLOCK_SIZE;
                    626:                int32 c;
                    627:                int cnt;
                    628:                for (c = 1, l = len, cnt = 0; l >>= 2; c <<= 1, cnt++) {}
                    629:                if (c < 0 || c >= max_blength)
                    630:                        blength = max_blength;
                    631:                else {
                    632:                    blength = 0;
                    633:                    do {
                    634:                            blength |= c;
                    635:                            if (len < (int64)blength * blength)
                    636:                                    blength &= ~c;
                    637:                            c >>= 1;
                    638:                    } while (c >= 8);   /* round to multiple of 8 */
                    639:                    blength = MAX(blength, BLOCK_SIZE);
                    640:                }
                    641:        }
                    642: 
                    643:        if (protocol_version < 27) {
                    644:                s2length = csum_length;
                    645:        } else if (csum_length == SUM_LENGTH) {
                    646:                s2length = SUM_LENGTH;
                    647:        } else {
                    648:                int32 c;
                    649:                int b = BLOCKSUM_BIAS;
                    650:                for (l = len; l >>= 1; b += 2) {}
                    651:                for (c = blength; (c >>= 1) && b; b--) {}
                    652:                /* add a bit, subtract rollsum, round up. */
                    653:                s2length = (b + 1 - 32 + 7) / 8; /* --optimize in compiler-- */
                    654:                s2length = MAX(s2length, csum_length);
                    655:                s2length = MIN(s2length, SUM_LENGTH);
                    656:        }
                    657: 
                    658:        sum->flength    = len;
                    659:        sum->blength    = blength;
                    660:        sum->s2length   = s2length;
                    661:        sum->remainder  = (int32)(len % blength);
                    662:        sum->count      = (int32)(l = (len / blength) + (sum->remainder != 0));
                    663: 
                    664:        if ((int64)sum->count != l)
                    665:                sum->count = -1;
                    666: 
1.1.1.2 ! misho     667:        if (sum->count && DEBUG_GTE(DELTASUM, 2)) {
1.1       misho     668:                rprintf(FINFO,
1.1.1.2 ! misho     669:                        "count=%s rem=%ld blength=%ld s2length=%d flength=%s\n",
        !           670:                        big_num(sum->count), (long)sum->remainder, (long)sum->blength,
        !           671:                        sum->s2length, big_num(sum->flength));
1.1       misho     672:        }
                    673: }
                    674: 
                    675: 
                    676: /*
                    677:  * Generate and send a stream of signatures/checksums that describe a buffer
                    678:  *
                    679:  * Generate approximately one checksum every block_len bytes.
                    680:  */
                    681: static int generate_and_send_sums(int fd, OFF_T len, int f_out, int f_copy)
                    682: {
                    683:        int32 i;
                    684:        struct map_struct *mapbuf;
                    685:        struct sum_struct sum;
                    686:        OFF_T offset = 0;
                    687: 
                    688:        sum_sizes_sqroot(&sum, len);
                    689:        if (sum.count < 0)
                    690:                return -1;
                    691:        write_sum_head(f_out, &sum);
                    692: 
                    693:        if (append_mode > 0 && f_copy < 0)
                    694:                return 0;
                    695: 
                    696:        if (len > 0)
                    697:                mapbuf = map_file(fd, len, MAX_MAP_SIZE, sum.blength);
                    698:        else
                    699:                mapbuf = NULL;
                    700: 
                    701:        for (i = 0; i < sum.count; i++) {
                    702:                int32 n1 = (int32)MIN(len, (OFF_T)sum.blength);
                    703:                char *map = map_ptr(mapbuf, offset, n1);
                    704:                char sum2[SUM_LENGTH];
                    705:                uint32 sum1;
                    706: 
                    707:                len -= n1;
                    708:                offset += n1;
                    709: 
                    710:                if (f_copy >= 0) {
                    711:                        full_write(f_copy, map, n1);
                    712:                        if (append_mode > 0)
                    713:                                continue;
                    714:                }
                    715: 
                    716:                sum1 = get_checksum1(map, n1);
                    717:                get_checksum2(map, n1, sum2);
                    718: 
1.1.1.2 ! misho     719:                if (DEBUG_GTE(DELTASUM, 3)) {
1.1       misho     720:                        rprintf(FINFO,
1.1.1.2 ! misho     721:                                "chunk[%s] offset=%s len=%ld sum1=%08lx\n",
        !           722:                                big_num(i), big_num(offset - n1), (long)n1,
1.1       misho     723:                                (unsigned long)sum1);
                    724:                }
                    725:                write_int(f_out, sum1);
                    726:                write_buf(f_out, sum2, sum.s2length);
                    727:        }
                    728: 
                    729:        if (mapbuf)
                    730:                unmap_file(mapbuf);
                    731: 
                    732:        return 0;
                    733: }
                    734: 
                    735: 
                    736: /* Try to find a filename in the same dir as "fname" with a similar name. */
1.1.1.2 ! misho     737: static struct file_struct *find_fuzzy(struct file_struct *file, struct file_list *dirlist_array[], uchar *fnamecmp_type_ptr)
1.1       misho     738: {
                    739:        int fname_len, fname_suf_len;
                    740:        const char *fname_suf, *fname = file->basename;
                    741:        uint32 lowest_dist = 25 << 16; /* ignore a distance greater than 25 */
1.1.1.2 ! misho     742:        int i, j;
        !           743:        struct file_struct *lowest_fp = NULL;
1.1       misho     744: 
                    745:        fname_len = strlen(fname);
                    746:        fname_suf = find_filename_suffix(fname, fname_len, &fname_suf_len);
                    747: 
1.1.1.2 ! misho     748:        /* Try to find an exact size+mtime match first. */
        !           749:        for (i = 0; i < fuzzy_basis; i++) {
        !           750:                struct file_list *dirlist = dirlist_array[i];
1.1       misho     751: 
1.1.1.2 ! misho     752:                if (!dirlist)
1.1       misho     753:                        continue;
                    754: 
1.1.1.2 ! misho     755:                for (j = 0; j < dirlist->used; j++) {
        !           756:                        struct file_struct *fp = dirlist->files[j];
1.1       misho     757: 
1.1.1.2 ! misho     758:                        if (!S_ISREG(fp->mode) || !F_LENGTH(fp) || fp->flags & FLAG_FILE_SENT)
        !           759:                                continue;
        !           760: 
        !           761:                        if (F_LENGTH(fp) == F_LENGTH(file) && cmp_time(fp->modtime, file->modtime) == 0) {
        !           762:                                if (DEBUG_GTE(FUZZY, 2))
        !           763:                                        rprintf(FINFO, "fuzzy size/modtime match for %s\n", f_name(fp, NULL));
        !           764:                                *fnamecmp_type_ptr = FNAMECMP_FUZZY + i;
        !           765:                                return fp;
1.1       misho     766:                        }
1.1.1.2 ! misho     767: 
1.1       misho     768:                }
1.1.1.2 ! misho     769:        }
1.1       misho     770: 
1.1.1.2 ! misho     771:        for (i = 0; i < fuzzy_basis; i++) {
        !           772:                struct file_list *dirlist = dirlist_array[i];
1.1       misho     773: 
1.1.1.2 ! misho     774:                if (!dirlist)
        !           775:                        continue;
        !           776: 
        !           777:                for (j = 0; j < dirlist->used; j++) {
        !           778:                        struct file_struct *fp = dirlist->files[j];
        !           779:                        const char *suf, *name;
        !           780:                        int len, suf_len;
        !           781:                        uint32 dist;
        !           782: 
        !           783:                        if (!S_ISREG(fp->mode) || !F_LENGTH(fp) || fp->flags & FLAG_FILE_SENT)
        !           784:                                continue;
        !           785: 
        !           786:                        name = fp->basename;
        !           787:                        len = strlen(name);
        !           788:                        suf = find_filename_suffix(name, len, &suf_len);
        !           789: 
        !           790:                        dist = fuzzy_distance(name, len, fname, fname_len);
        !           791:                        /* Add some extra weight to how well the suffixes match. */
        !           792:                        dist += fuzzy_distance(suf, suf_len, fname_suf, fname_suf_len) * 10;
        !           793:                        if (DEBUG_GTE(FUZZY, 2)) {
        !           794:                                rprintf(FINFO, "fuzzy distance for %s = %d.%05d\n",
        !           795:                                        f_name(fp, NULL), (int)(dist>>16), (int)(dist&0xFFFF));
        !           796:                        }
        !           797:                        if (dist <= lowest_dist) {
        !           798:                                lowest_dist = dist;
        !           799:                                lowest_fp = fp;
        !           800:                                *fnamecmp_type_ptr = FNAMECMP_FUZZY + i;
        !           801:                        }
1.1       misho     802:                }
                    803:        }
                    804: 
1.1.1.2 ! misho     805:        return lowest_fp;
1.1       misho     806: }
                    807: 
                    808: /* Copy a file found in our --copy-dest handling. */
                    809: static int copy_altdest_file(const char *src, const char *dest, struct file_struct *file)
                    810: {
                    811:        char buf[MAXPATHLEN];
                    812:        const char *copy_to, *partialptr;
                    813:        int save_preserve_xattrs = preserve_xattrs;
                    814:        int ok, fd_w;
                    815: 
                    816:        if (inplace) {
                    817:                /* Let copy_file open the destination in place. */
                    818:                fd_w = -1;
                    819:                copy_to = dest;
                    820:        } else {
                    821:                fd_w = open_tmpfile(buf, dest, file);
                    822:                if (fd_w < 0)
                    823:                        return -1;
                    824:                copy_to = buf;
                    825:        }
                    826:        cleanup_set(copy_to, NULL, NULL, -1, -1);
1.1.1.2 ! misho     827:        if (copy_file(src, copy_to, fd_w, file->mode) < 0) {
        !           828:                if (INFO_GTE(COPY, 1)) {
1.1       misho     829:                        rsyserr(FINFO, errno, "copy_file %s => %s",
                    830:                                full_fname(src), copy_to);
                    831:                }
                    832:                /* Try to clean up. */
                    833:                unlink(copy_to);
                    834:                cleanup_disable();
                    835:                return -1;
                    836:        }
                    837:        partialptr = partial_dir ? partial_dir_fname(dest) : NULL;
                    838:        preserve_xattrs = 0; /* xattrs were copied with file */
                    839:        ok = finish_transfer(dest, copy_to, src, partialptr, file, 1, 0);
                    840:        preserve_xattrs = save_preserve_xattrs;
                    841:        cleanup_disable();
                    842:        return ok ? 0 : -1;
                    843: }
                    844: 
                    845: /* This is only called for regular files.  We return -2 if we've finished
                    846:  * handling the file, -1 if no dest-linking occurred, or a non-negative
1.1.1.2 ! misho     847:  * value if we found an alternate basis file.  If we're called with the
        !           848:  * find_exact_for_existing flag, the destination file already exists, so
        !           849:  * we only try to find an exact alt-dest match.  In this case, the returns
        !           850:  * are only -2 & -1 (both as above). */
1.1       misho     851: static int try_dests_reg(struct file_struct *file, char *fname, int ndx,
1.1.1.2 ! misho     852:                         char *cmpbuf, stat_x *sxp, int find_exact_for_existing,
        !           853:                         int itemizing, enum logcode code)
1.1       misho     854: {
1.1.1.2 ! misho     855:        STRUCT_STAT real_st = sxp->st;
1.1       misho     856:        int best_match = -1;
                    857:        int match_level = 0;
                    858:        int j = 0;
                    859: 
                    860:        do {
                    861:                pathjoin(cmpbuf, MAXPATHLEN, basis_dir[j], fname);
                    862:                if (link_stat(cmpbuf, &sxp->st, 0) < 0 || !S_ISREG(sxp->st.st_mode))
                    863:                        continue;
                    864:                switch (match_level) {
                    865:                case 0:
                    866:                        best_match = j;
                    867:                        match_level = 1;
                    868:                        /* FALL THROUGH */
                    869:                case 1:
                    870:                        if (!unchanged_file(cmpbuf, file, &sxp->st))
                    871:                                continue;
                    872:                        best_match = j;
                    873:                        match_level = 2;
                    874:                        /* FALL THROUGH */
                    875:                case 2:
1.1.1.2 ! misho     876:                        if (!unchanged_attrs(cmpbuf, file, sxp)) {
        !           877:                                free_stat_x(sxp);
1.1       misho     878:                                continue;
1.1.1.2 ! misho     879:                        }
1.1       misho     880:                        best_match = j;
                    881:                        match_level = 3;
                    882:                        break;
                    883:                }
                    884:                break;
                    885:        } while (basis_dir[++j] != NULL);
                    886: 
                    887:        if (!match_level)
                    888:                return -1;
                    889: 
                    890:        if (j != best_match) {
                    891:                j = best_match;
                    892:                pathjoin(cmpbuf, MAXPATHLEN, basis_dir[j], fname);
                    893:                if (link_stat(cmpbuf, &sxp->st, 0) < 0)
                    894:                        return -1;
                    895:        }
                    896: 
                    897:        if (match_level == 3 && !copy_dest) {
1.1.1.2 ! misho     898:                if (find_exact_for_existing) {
        !           899:                        if (link_dest && real_st.st_dev == sxp->st.st_dev && real_st.st_ino == sxp->st.st_ino)
        !           900:                                return -1;
        !           901:                        if (do_unlink(fname) < 0 && errno != ENOENT) {
        !           902:                                sxp->st = real_st;
        !           903:                                return -1;
        !           904:                        }
        !           905:                }
1.1       misho     906: #ifdef SUPPORT_HARD_LINKS
                    907:                if (link_dest) {
                    908:                        if (!hard_link_one(file, fname, cmpbuf, 1))
                    909:                                goto try_a_copy;
                    910:                        if (preserve_hard_links && F_IS_HLINKED(file))
                    911:                                finish_hard_link(file, fname, ndx, &sxp->st, itemizing, code, j);
1.1.1.2 ! misho     912:                        if (!maybe_ATTRS_REPORT && (INFO_GTE(NAME, 2) || stdout_format_has_i > 1)) {
1.1       misho     913:                                itemize(cmpbuf, file, ndx, 1, sxp,
                    914:                                        ITEM_LOCAL_CHANGE | ITEM_XNAME_FOLLOWS,
                    915:                                        0, "");
                    916:                        }
                    917:                } else
                    918: #endif
1.1.1.2 ! misho     919:                {
        !           920:                        if (itemizing)
        !           921:                                itemize(cmpbuf, file, ndx, 0, sxp, 0, 0, NULL);
        !           922:                }
        !           923:                if (INFO_GTE(NAME, 2) && maybe_ATTRS_REPORT)
1.1       misho     924:                        rprintf(FCLIENT, "%s is uptodate\n", fname);
                    925:                return -2;
                    926:        }
                    927: 
1.1.1.2 ! misho     928:        if (find_exact_for_existing) {
        !           929:                sxp->st = real_st;
        !           930:                return -1;
        !           931:        }
        !           932: 
1.1       misho     933:        if (match_level >= 2) {
                    934: #ifdef SUPPORT_HARD_LINKS
                    935:          try_a_copy: /* Copy the file locally. */
                    936: #endif
1.1.1.2 ! misho     937:                if (!dry_run && copy_altdest_file(cmpbuf, fname, file) < 0) {
        !           938:                        if (find_exact_for_existing) /* Can get here via hard-link failure */
        !           939:                                sxp->st = real_st;
1.1       misho     940:                        return -1;
1.1.1.2 ! misho     941:                }
1.1       misho     942:                if (itemizing)
                    943:                        itemize(cmpbuf, file, ndx, 0, sxp, ITEM_LOCAL_CHANGE, 0, NULL);
                    944:                if (maybe_ATTRS_REPORT
1.1.1.2 ! misho     945:                 && ((!itemizing && INFO_GTE(NAME, 1) && match_level == 2)
        !           946:                  || (INFO_GTE(NAME, 2) && match_level == 3))) {
1.1       misho     947:                        code = match_level == 3 ? FCLIENT : FINFO;
                    948:                        rprintf(code, "%s%s\n", fname,
                    949:                                match_level == 3 ? " is uptodate" : "");
                    950:                }
                    951: #ifdef SUPPORT_HARD_LINKS
                    952:                if (preserve_hard_links && F_IS_HLINKED(file))
                    953:                        finish_hard_link(file, fname, ndx, &sxp->st, itemizing, code, -1);
                    954: #endif
                    955:                return -2;
                    956:        }
                    957: 
                    958:        return FNAMECMP_BASIS_DIR_LOW + j;
                    959: }
                    960: 
                    961: /* This is only called for non-regular files.  We return -2 if we've finished
                    962:  * handling the file, or -1 if no dest-linking occurred, or a non-negative
                    963:  * value if we found an alternate basis file. */
                    964: static int try_dests_non(struct file_struct *file, char *fname, int ndx,
                    965:                         char *cmpbuf, stat_x *sxp, int itemizing,
                    966:                         enum logcode code)
                    967: {
                    968:        int best_match = -1;
                    969:        int match_level = 0;
                    970:        enum nonregtype type;
                    971:        uint32 *devp;
1.1.1.2 ! misho     972: #ifdef SUPPORT_LINKS
        !           973:        char lnk[MAXPATHLEN];
        !           974:        int len;
        !           975: #endif
        !           976:        int j = 0;
1.1       misho     977: 
                    978: #ifndef SUPPORT_LINKS
                    979:        if (S_ISLNK(file->mode))
                    980:                return -1;
                    981: #endif
                    982:        if (S_ISDIR(file->mode)) {
                    983:                type = TYPE_DIR;
                    984:        } else if (IS_SPECIAL(file->mode))
                    985:                type = TYPE_SPECIAL;
                    986:        else if (IS_DEVICE(file->mode))
                    987:                type = TYPE_DEVICE;
                    988: #ifdef SUPPORT_LINKS
                    989:        else if (S_ISLNK(file->mode))
                    990:                type = TYPE_SYMLINK;
                    991: #endif
                    992:        else {
                    993:                rprintf(FERROR,
                    994:                        "internal: try_dests_non() called with invalid mode (%o)\n",
                    995:                        (int)file->mode);
                    996:                exit_cleanup(RERR_UNSUPPORTED);
                    997:        }
                    998: 
                    999:        do {
                   1000:                pathjoin(cmpbuf, MAXPATHLEN, basis_dir[j], fname);
                   1001:                if (link_stat(cmpbuf, &sxp->st, 0) < 0)
                   1002:                        continue;
                   1003:                switch (type) {
                   1004:                case TYPE_DIR:
                   1005:                        if (!S_ISDIR(sxp->st.st_mode))
                   1006:                                continue;
                   1007:                        break;
                   1008:                case TYPE_SPECIAL:
                   1009:                        if (!IS_SPECIAL(sxp->st.st_mode))
                   1010:                                continue;
                   1011:                        break;
                   1012:                case TYPE_DEVICE:
                   1013:                        if (!IS_DEVICE(sxp->st.st_mode))
                   1014:                                continue;
                   1015:                        break;
                   1016:                case TYPE_SYMLINK:
1.1.1.2 ! misho    1017: #ifdef SUPPORT_LINKS
1.1       misho    1018:                        if (!S_ISLNK(sxp->st.st_mode))
                   1019:                                continue;
                   1020:                        break;
1.1.1.2 ! misho    1021: #else
        !          1022:                        return -1;
1.1       misho    1023: #endif
                   1024:                }
                   1025:                if (match_level < 1) {
                   1026:                        match_level = 1;
                   1027:                        best_match = j;
                   1028:                }
                   1029:                switch (type) {
                   1030:                case TYPE_DIR:
                   1031:                case TYPE_SPECIAL:
                   1032:                        break;
                   1033:                case TYPE_DEVICE:
                   1034:                        devp = F_RDEV_P(file);
                   1035:                        if (sxp->st.st_rdev != MAKEDEV(DEV_MAJOR(devp), DEV_MINOR(devp)))
                   1036:                                continue;
                   1037:                        break;
                   1038:                case TYPE_SYMLINK:
1.1.1.2 ! misho    1039: #ifdef SUPPORT_LINKS
        !          1040:                        if ((len = do_readlink(cmpbuf, lnk, MAXPATHLEN-1)) <= 0)
1.1       misho    1041:                                continue;
                   1042:                        lnk[len] = '\0';
                   1043:                        if (strcmp(lnk, F_SYMLINK(file)) != 0)
                   1044:                                continue;
                   1045:                        break;
1.1.1.2 ! misho    1046: #else
        !          1047:                        return -1;
1.1       misho    1048: #endif
                   1049:                }
                   1050:                if (match_level < 2) {
                   1051:                        match_level = 2;
                   1052:                        best_match = j;
                   1053:                }
                   1054:                if (unchanged_attrs(cmpbuf, file, sxp)) {
                   1055:                        match_level = 3;
                   1056:                        best_match = j;
                   1057:                        break;
                   1058:                }
                   1059:        } while (basis_dir[++j] != NULL);
                   1060: 
                   1061:        if (!match_level)
                   1062:                return -1;
                   1063: 
                   1064:        if (j != best_match) {
                   1065:                j = best_match;
                   1066:                pathjoin(cmpbuf, MAXPATHLEN, basis_dir[j], fname);
                   1067:                if (link_stat(cmpbuf, &sxp->st, 0) < 0)
                   1068:                        return -1;
                   1069:        }
                   1070: 
                   1071:        if (match_level == 3) {
                   1072: #ifdef SUPPORT_HARD_LINKS
                   1073:                if (link_dest
                   1074: #ifndef CAN_HARDLINK_SYMLINK
                   1075:                 && !S_ISLNK(file->mode)
                   1076: #endif
                   1077: #ifndef CAN_HARDLINK_SPECIAL
                   1078:                 && !IS_SPECIAL(file->mode) && !IS_DEVICE(file->mode)
                   1079: #endif
                   1080:                 && !S_ISDIR(file->mode)) {
                   1081:                        if (do_link(cmpbuf, fname) < 0) {
                   1082:                                rsyserr(FERROR_XFER, errno,
                   1083:                                        "failed to hard-link %s with %s",
                   1084:                                        cmpbuf, fname);
                   1085:                                return j;
                   1086:                        }
                   1087:                        if (preserve_hard_links && F_IS_HLINKED(file))
                   1088:                                finish_hard_link(file, fname, ndx, NULL, itemizing, code, -1);
                   1089:                } else
                   1090: #endif
                   1091:                        match_level = 2;
                   1092:                if (itemizing && stdout_format_has_i
1.1.1.2 ! misho    1093:                 && (INFO_GTE(NAME, 2) || stdout_format_has_i > 1)) {
1.1       misho    1094:                        int chg = compare_dest && type != TYPE_DIR ? 0
                   1095:                            : ITEM_LOCAL_CHANGE + (match_level == 3 ? ITEM_XNAME_FOLLOWS : 0);
                   1096:                        char *lp = match_level == 3 ? "" : NULL;
                   1097:                        itemize(cmpbuf, file, ndx, 0, sxp, chg + ITEM_MATCHED, 0, lp);
                   1098:                }
1.1.1.2 ! misho    1099:                if (INFO_GTE(NAME, 2) && maybe_ATTRS_REPORT) {
1.1       misho    1100:                        rprintf(FCLIENT, "%s%s is uptodate\n",
                   1101:                                fname, type == TYPE_DIR ? "/" : "");
                   1102:                }
                   1103:                return -2;
                   1104:        }
                   1105: 
                   1106:        return j;
                   1107: }
                   1108: 
                   1109: static void list_file_entry(struct file_struct *f)
                   1110: {
                   1111:        char permbuf[PERMSTRING_SIZE];
1.1.1.2 ! misho    1112:        int64 len;
        !          1113:        int colwidth = human_readable ? 14 : 11;
1.1       misho    1114: 
                   1115:        if (!F_IS_ACTIVE(f)) {
                   1116:                /* this can happen if duplicate names were removed */
                   1117:                return;
                   1118:        }
                   1119: 
                   1120:        permstring(permbuf, f->mode);
                   1121:        len = F_LENGTH(f);
                   1122: 
                   1123:        /* TODO: indicate '+' if the entry has an ACL. */
                   1124: 
                   1125: #ifdef SUPPORT_LINKS
                   1126:        if (preserve_links && S_ISLNK(f->mode)) {
1.1.1.2 ! misho    1127:                rprintf(FINFO, "%s %*s %s %s -> %s\n",
        !          1128:                        permbuf, colwidth, human_num(len),
        !          1129:                        timestring(f->modtime), f_name(f, NULL),
        !          1130:                        F_SYMLINK(f));
1.1       misho    1131:        } else
                   1132: #endif
1.1.1.2 ! misho    1133:        if (missing_args == 2 && f->mode == 0) {
        !          1134:                rprintf(FINFO, "%-*s %s\n",
        !          1135:                        colwidth + 31, "*missing",
1.1       misho    1136:                        f_name(f, NULL));
1.1.1.2 ! misho    1137:        } else {
        !          1138:                rprintf(FINFO, "%s %*s %s %s\n",
        !          1139:                        permbuf, colwidth, human_num(len),
        !          1140:                        timestring(f->modtime), f_name(f, NULL));
1.1       misho    1141:        }
                   1142: }
                   1143: 
                   1144: static int phase = 0;
                   1145: static int dflt_perms;
                   1146: 
                   1147: static int implied_dirs_are_missing;
                   1148: /* Helper for recv_generator's skip_dir and dry_missing_dir tests. */
                   1149: static BOOL is_below(struct file_struct *file, struct file_struct *subtree)
                   1150: {
                   1151:        return F_DEPTH(file) > F_DEPTH(subtree)
                   1152:                && (!implied_dirs_are_missing || f_name_has_prefix(file, subtree));
                   1153: }
                   1154: 
                   1155: /* Acts on the indicated item in cur_flist whose name is fname.  If a dir,
                   1156:  * make sure it exists, and has the right permissions/timestamp info.  For
                   1157:  * all other non-regular files (symlinks, etc.) we create them here.  For
                   1158:  * regular files that have changed, we try to find a basis file and then
                   1159:  * start sending checksums.  The ndx is the file's unique index value.
                   1160:  *
                   1161:  * The fname parameter must point to a MAXPATHLEN buffer!  (e.g it gets
                   1162:  * passed to delete_item(), which can use it during a recursive delete.)
                   1163:  *
                   1164:  * Note that f_out is set to -1 when doing final directory-permission and
                   1165:  * modification-time repair. */
                   1166: static void recv_generator(char *fname, struct file_struct *file, int ndx,
                   1167:                           int itemizing, enum logcode code, int f_out)
                   1168: {
                   1169:        static const char *parent_dirname = "";
                   1170:        /* Missing dir not created due to --dry-run; will still be scanned. */
                   1171:        static struct file_struct *dry_missing_dir = NULL;
                   1172:        /* Missing dir whose contents are skipped altogether due to
                   1173:         * --ignore-non-existing, daemon exclude, or mkdir failure. */
                   1174:        static struct file_struct *skip_dir = NULL;
1.1.1.2 ! misho    1175:        static struct file_list *fuzzy_dirlist[MAX_BASIS_DIRS+1];
1.1       misho    1176:        static int need_fuzzy_dirlist = 0;
                   1177:        struct file_struct *fuzzy_file = NULL;
                   1178:        int fd = -1, f_copy = -1;
                   1179:        stat_x sx, real_sx;
                   1180:        STRUCT_STAT partial_st;
                   1181:        struct file_struct *back_file = NULL;
                   1182:        int statret, real_ret, stat_errno;
                   1183:        char *fnamecmp, *partialptr, *backupptr = NULL;
                   1184:        char fnamecmpbuf[MAXPATHLEN];
                   1185:        uchar fnamecmp_type;
                   1186:        int del_opts = delete_mode || force_delete ? DEL_RECURSE : 0;
                   1187:        int is_dir = !S_ISDIR(file->mode) ? 0
                   1188:                   : inc_recurse && ndx != cur_flist->ndx_start - 1 ? -1
                   1189:                   : 1;
                   1190: 
1.1.1.2 ! misho    1191:        if (DEBUG_GTE(GENR, 1))
1.1       misho    1192:                rprintf(FINFO, "recv_generator(%s,%d)\n", fname, ndx);
                   1193: 
                   1194:        if (list_only) {
                   1195:                if (is_dir < 0
                   1196:                 || (is_dir && !implied_dirs && file->flags & FLAG_IMPLIED_DIR))
                   1197:                        return;
                   1198:                list_file_entry(file);
                   1199:                return;
                   1200:        }
                   1201: 
                   1202:        if (skip_dir) {
                   1203:                if (is_below(file, skip_dir)) {
                   1204:                        if (is_dir)
                   1205:                                file->flags |= FLAG_MISSING_DIR;
                   1206: #ifdef SUPPORT_HARD_LINKS
                   1207:                        else if (F_IS_HLINKED(file))
                   1208:                                handle_skipped_hlink(file, itemizing, code, f_out);
                   1209: #endif
                   1210:                        return;
                   1211:                }
                   1212:                skip_dir = NULL;
                   1213:        }
                   1214: 
1.1.1.2 ! misho    1215:        init_stat_x(&sx);
1.1       misho    1216:        if (daemon_filter_list.head && (*fname != '.' || fname[1])) {
                   1217:                if (check_filter(&daemon_filter_list, FLOG, fname, is_dir) < 0) {
                   1218:                        if (is_dir < 0)
                   1219:                                return;
                   1220: #ifdef SUPPORT_HARD_LINKS
                   1221:                        if (F_IS_HLINKED(file))
                   1222:                                handle_skipped_hlink(file, itemizing, code, f_out);
                   1223: #endif
                   1224:                        rprintf(FERROR_XFER,
                   1225:                                "ERROR: daemon refused to receive %s \"%s\"\n",
                   1226:                                is_dir ? "directory" : "file", fname);
                   1227:                        if (is_dir)
                   1228:                                goto skipping_dir_contents;
                   1229:                        return;
                   1230:                }
                   1231:        }
                   1232: 
                   1233:        if (dry_run > 1 || (dry_missing_dir && is_below(file, dry_missing_dir))) {
1.1.1.2 ! misho    1234:                int i;
1.1       misho    1235:          parent_is_dry_missing:
1.1.1.2 ! misho    1236:                for (i = 0; i < fuzzy_basis; i++) {
        !          1237:                        if (fuzzy_dirlist[i]) {
        !          1238:                                flist_free(fuzzy_dirlist[i]);
        !          1239:                                fuzzy_dirlist[i] = NULL;
        !          1240:                        }
1.1       misho    1241:                }
                   1242:                parent_dirname = "";
                   1243:                statret = -1;
                   1244:                stat_errno = ENOENT;
                   1245:        } else {
                   1246:                const char *dn = file->dirname ? file->dirname : ".";
                   1247:                dry_missing_dir = NULL;
                   1248:                if (parent_dirname != dn && strcmp(parent_dirname, dn) != 0) {
                   1249:                        if (relative_paths && !implied_dirs
                   1250:                         && do_stat(dn, &sx.st) < 0) {
                   1251:                                if (dry_run)
                   1252:                                        goto parent_is_dry_missing;
1.1.1.2 ! misho    1253:                                if (make_path(fname, MKP_DROP_NAME | MKP_SKIP_SLASH) < 0) {
1.1       misho    1254:                                        rsyserr(FERROR_XFER, errno,
                   1255:                                                "recv_generator: mkdir %s failed",
                   1256:                                                full_fname(dn));
                   1257:                                }
                   1258:                        }
1.1.1.2 ! misho    1259:                        if (fuzzy_basis) {
        !          1260:                                int i;
        !          1261:                                for (i = 0; i < fuzzy_basis; i++) {
        !          1262:                                        if (fuzzy_dirlist[i]) {
        !          1263:                                                flist_free(fuzzy_dirlist[i]);
        !          1264:                                                fuzzy_dirlist[i] = NULL;
        !          1265:                                        }
        !          1266:                                }
1.1       misho    1267:                                need_fuzzy_dirlist = 1;
1.1.1.2 ! misho    1268:                        }
1.1       misho    1269: #ifdef SUPPORT_ACLS
                   1270:                        if (!preserve_perms)
                   1271:                                dflt_perms = default_perms_for_dir(dn);
                   1272: #endif
                   1273:                }
                   1274:                parent_dirname = dn;
                   1275: 
                   1276:                if (need_fuzzy_dirlist && S_ISREG(file->mode)) {
1.1.1.2 ! misho    1277:                        int i;
1.1       misho    1278:                        strlcpy(fnamecmpbuf, dn, sizeof fnamecmpbuf);
1.1.1.2 ! misho    1279:                        for (i = 0; i < fuzzy_basis; i++) {
        !          1280:                                if (i && pathjoin(fnamecmpbuf, MAXPATHLEN, basis_dir[i-1], dn) >= MAXPATHLEN)
        !          1281:                                        continue;
        !          1282:                                fuzzy_dirlist[i] = get_dirlist(fnamecmpbuf, -1, GDL_IGNORE_FILTER_RULES);
        !          1283:                                if (fuzzy_dirlist[i] && fuzzy_dirlist[i]->used == 0) {
        !          1284:                                        flist_free(fuzzy_dirlist[i]);
        !          1285:                                        fuzzy_dirlist[i] = NULL;
        !          1286:                                }
        !          1287:                        }
1.1       misho    1288:                        need_fuzzy_dirlist = 0;
                   1289:                }
                   1290: 
                   1291:                statret = link_stat(fname, &sx.st, keep_dirlinks && is_dir);
                   1292:                stat_errno = errno;
                   1293:        }
                   1294: 
1.1.1.2 ! misho    1295:        if (missing_args == 2 && file->mode == 0) {
        !          1296:                if (filter_list.head && check_filter(&filter_list, FINFO, fname, is_dir) < 0)
        !          1297:                        return;
        !          1298:                if (statret == 0)
        !          1299:                        delete_item(fname, sx.st.st_mode, del_opts);
        !          1300:                return;
        !          1301:        }
        !          1302: 
1.1       misho    1303:        if (ignore_non_existing > 0 && statret == -1 && stat_errno == ENOENT) {
                   1304:                if (is_dir) {
                   1305:                        if (is_dir < 0)
                   1306:                                return;
                   1307:                        skip_dir = file;
                   1308:                        file->flags |= FLAG_MISSING_DIR;
                   1309:                }
                   1310: #ifdef SUPPORT_HARD_LINKS
                   1311:                else if (F_IS_HLINKED(file))
                   1312:                        handle_skipped_hlink(file, itemizing, code, f_out);
                   1313: #endif
1.1.1.2 ! misho    1314:                if (INFO_GTE(SKIP, 1)) {
1.1       misho    1315:                        rprintf(FINFO, "not creating new %s \"%s\"\n",
                   1316:                                is_dir ? "directory" : "file", fname);
                   1317:                }
                   1318:                return;
                   1319:        }
                   1320: 
                   1321:        if (statret == 0 && !(sx.st.st_mode & S_IWUSR)
                   1322:         && !am_root && sx.st.st_uid == our_uid)
                   1323:                del_opts |= DEL_NO_UID_WRITE;
                   1324: 
                   1325:        if (ignore_existing > 0 && statret == 0
                   1326:         && (!is_dir || !S_ISDIR(sx.st.st_mode))) {
1.1.1.2 ! misho    1327:                if (INFO_GTE(SKIP, 1) && is_dir >= 0)
1.1       misho    1328:                        rprintf(FINFO, "%s exists\n", fname);
                   1329: #ifdef SUPPORT_HARD_LINKS
                   1330:                if (F_IS_HLINKED(file))
                   1331:                        handle_skipped_hlink(file, itemizing, code, f_out);
                   1332: #endif
                   1333:                goto cleanup;
                   1334:        }
                   1335: 
                   1336:        fnamecmp = fname;
                   1337: 
                   1338:        if (is_dir) {
                   1339:                mode_t added_perms;
                   1340:                if (!implied_dirs && file->flags & FLAG_IMPLIED_DIR)
                   1341:                        goto cleanup;
                   1342:                if (am_root < 0) {
                   1343:                        /* For --fake-super, the dir must be useable by the copying
                   1344:                         * user, just like it would be for root. */
                   1345:                        added_perms = S_IRUSR|S_IWUSR|S_IXUSR;
                   1346:                } else
                   1347:                        added_perms = 0;
                   1348:                if (is_dir < 0) {
                   1349:                        /* In inc_recurse mode we want to make sure any missing
                   1350:                         * directories get created while we're still processing
                   1351:                         * the parent dir (which allows us to touch the parent
                   1352:                         * dir's mtime right away).  We will handle the dir in
                   1353:                         * full later (right before we handle its contents). */
                   1354:                        if (statret == 0
                   1355:                         && (S_ISDIR(sx.st.st_mode)
                   1356:                          || delete_item(fname, sx.st.st_mode, del_opts | DEL_FOR_DIR) != 0))
                   1357:                                goto cleanup; /* Any errors get reported later. */
                   1358:                        if (do_mkdir(fname, (file->mode|added_perms) & 0700) == 0)
                   1359:                                file->flags |= FLAG_DIR_CREATED;
                   1360:                        goto cleanup;
                   1361:                }
                   1362:                /* The file to be received is a directory, so we need
                   1363:                 * to prepare appropriately.  If there is already a
                   1364:                 * file of that name and it is *not* a directory, then
                   1365:                 * we need to delete it.  If it doesn't exist, then
                   1366:                 * (perhaps recursively) create it. */
                   1367:                if (statret == 0 && !S_ISDIR(sx.st.st_mode)) {
                   1368:                        if (delete_item(fname, sx.st.st_mode, del_opts | DEL_FOR_DIR) != 0)
                   1369:                                goto skipping_dir_contents;
                   1370:                        statret = -1;
                   1371:                }
                   1372:                if (dry_run && statret != 0) {
                   1373:                        if (!dry_missing_dir)
                   1374:                                dry_missing_dir = file;
                   1375:                        file->flags |= FLAG_MISSING_DIR;
                   1376:                }
1.1.1.2 ! misho    1377:                init_stat_x(&real_sx);
        !          1378:                real_sx.st = sx.st;
1.1       misho    1379:                real_ret = statret;
                   1380:                if (file->flags & FLAG_DIR_CREATED)
                   1381:                        statret = -1;
                   1382:                if (!preserve_perms) { /* See comment in non-dir code below. */
                   1383:                        file->mode = dest_mode(file->mode, sx.st.st_mode,
                   1384:                                               dflt_perms, statret == 0);
                   1385:                }
                   1386:                if (statret != 0 && basis_dir[0] != NULL) {
                   1387:                        int j = try_dests_non(file, fname, ndx, fnamecmpbuf, &sx,
                   1388:                                              itemizing, code);
                   1389:                        if (j == -2) {
                   1390:                                itemizing = 0;
                   1391:                                code = FNONE;
                   1392:                                statret = 1;
                   1393:                        } else if (j >= 0) {
                   1394:                                statret = 1;
                   1395:                                fnamecmp = fnamecmpbuf;
                   1396:                        }
                   1397:                }
                   1398:                if (itemizing && f_out != -1) {
                   1399:                        itemize(fnamecmp, file, ndx, statret, &sx,
                   1400:                                statret ? ITEM_LOCAL_CHANGE : 0, 0, NULL);
                   1401:                }
                   1402:                if (real_ret != 0 && do_mkdir(fname,file->mode|added_perms) < 0 && errno != EEXIST) {
                   1403:                        if (!relative_paths || errno != ENOENT
1.1.1.2 ! misho    1404:                         || make_path(fname, MKP_DROP_NAME | MKP_SKIP_SLASH) < 0
1.1       misho    1405:                         || (do_mkdir(fname, file->mode|added_perms) < 0 && errno != EEXIST)) {
                   1406:                                rsyserr(FERROR_XFER, errno,
                   1407:                                        "recv_generator: mkdir %s failed",
                   1408:                                        full_fname(fname));
                   1409:                          skipping_dir_contents:
                   1410:                                rprintf(FERROR,
                   1411:                                    "*** Skipping any contents from this failed directory ***\n");
                   1412:                                skip_dir = file;
                   1413:                                file->flags |= FLAG_MISSING_DIR;
                   1414:                                goto cleanup;
                   1415:                        }
                   1416:                }
                   1417: 
                   1418: #ifdef SUPPORT_XATTRS
                   1419:                if (preserve_xattrs && statret == 1)
                   1420:                        copy_xattrs(fnamecmpbuf, fname);
                   1421: #endif
                   1422:                if (set_file_attrs(fname, file, real_ret ? NULL : &real_sx, NULL, 0)
1.1.1.2 ! misho    1423:                    && INFO_GTE(NAME, 1) && code != FNONE && f_out != -1)
1.1       misho    1424:                        rprintf(code, "%s/\n", fname);
                   1425: 
                   1426:                /* We need to ensure that the dirs in the transfer have both
                   1427:                 * readable and writable permissions during the time we are
                   1428:                 * putting files within them.  This is then restored to the
                   1429:                 * former permissions after the transfer is done. */
                   1430: #ifdef HAVE_CHMOD
                   1431:                if (!am_root && (file->mode & S_IRWXU) != S_IRWXU && dir_tweaking) {
                   1432:                        mode_t mode = file->mode | S_IRWXU;
                   1433:                        if (do_chmod(fname, mode) < 0) {
                   1434:                                rsyserr(FERROR_XFER, errno,
                   1435:                                        "failed to modify permissions on %s",
                   1436:                                        full_fname(fname));
                   1437:                        }
                   1438:                        need_retouch_dir_perms = 1;
                   1439:                }
                   1440: #endif
                   1441: 
                   1442:                if (real_ret != 0 && one_file_system)
                   1443:                        real_sx.st.st_dev = filesystem_dev;
                   1444:                if (inc_recurse) {
                   1445:                        if (one_file_system) {
                   1446:                                uint32 *devp = F_DIR_DEV_P(file);
                   1447:                                DEV_MAJOR(devp) = major(real_sx.st.st_dev);
                   1448:                                DEV_MINOR(devp) = minor(real_sx.st.st_dev);
                   1449:                        }
                   1450:                }
                   1451:                else if (delete_during && f_out != -1 && !phase
                   1452:                    && !(file->flags & FLAG_MISSING_DIR)) {
                   1453:                        if (file->flags & FLAG_CONTENT_DIR)
                   1454:                                delete_in_dir(fname, file, &real_sx.st.st_dev);
                   1455:                        else
                   1456:                                change_local_filter_dir(fname, strlen(fname), F_DEPTH(file));
                   1457:                }
                   1458:                goto cleanup;
                   1459:        }
                   1460: 
                   1461:        /* If we're not preserving permissions, change the file-list's
                   1462:         * mode based on the local permissions and some heuristics. */
                   1463:        if (!preserve_perms) {
                   1464:                int exists = statret == 0 && !S_ISDIR(sx.st.st_mode);
                   1465:                file->mode = dest_mode(file->mode, sx.st.st_mode, dflt_perms,
                   1466:                                       exists);
                   1467:        }
                   1468: 
                   1469: #ifdef SUPPORT_HARD_LINKS
                   1470:        if (preserve_hard_links && F_HLINK_NOT_FIRST(file)
                   1471:         && hard_link_check(file, ndx, fname, statret, &sx, itemizing, code))
                   1472:                goto cleanup;
                   1473: #endif
                   1474: 
                   1475:        if (preserve_links && S_ISLNK(file->mode)) {
                   1476: #ifdef SUPPORT_LINKS
                   1477:                const char *sl = F_SYMLINK(file);
                   1478:                if (safe_symlinks && unsafe_symlink(sl, fname)) {
1.1.1.2 ! misho    1479:                        if (INFO_GTE(NAME, 1)) {
1.1       misho    1480:                                if (solo_file) {
                   1481:                                        /* fname contains the destination path, but we
                   1482:                                         * want to report the source path. */
                   1483:                                        fname = f_name(file, NULL);
                   1484:                                }
                   1485:                                rprintf(FINFO,
                   1486:                                        "ignoring unsafe symlink \"%s\" -> \"%s\"\n",
                   1487:                                        fname, sl);
                   1488:                        }
                   1489:                        return;
                   1490:                }
                   1491:                if (statret == 0) {
                   1492:                        char lnk[MAXPATHLEN];
                   1493:                        int len;
                   1494: 
1.1.1.2 ! misho    1495:                        if (S_ISLNK(sx.st.st_mode)
        !          1496:                         && (len = do_readlink(fname, lnk, MAXPATHLEN-1)) > 0
        !          1497:                         && strncmp(lnk, sl, len) == 0 && sl[len] == '\0') {
1.1       misho    1498:                                /* The link is pointing to the right place. */
                   1499:                                set_file_attrs(fname, file, &sx, NULL, maybe_ATTRS_REPORT);
                   1500:                                if (itemizing)
                   1501:                                        itemize(fname, file, ndx, 0, &sx, 0, 0, NULL);
                   1502: #if defined SUPPORT_HARD_LINKS && defined CAN_HARDLINK_SYMLINK
                   1503:                                if (preserve_hard_links && F_IS_HLINKED(file))
                   1504:                                        finish_hard_link(file, fname, ndx, &sx.st, itemizing, code, -1);
                   1505: #endif
                   1506:                                if (remove_source_files == 1)
                   1507:                                        goto return_with_success;
                   1508:                                goto cleanup;
                   1509:                        }
                   1510:                } else if (basis_dir[0] != NULL) {
                   1511:                        int j = try_dests_non(file, fname, ndx, fnamecmpbuf, &sx,
                   1512:                                              itemizing, code);
                   1513:                        if (j == -2) {
                   1514: #ifndef CAN_HARDLINK_SYMLINK
                   1515:                                if (link_dest) {
                   1516:                                        /* Resort to --copy-dest behavior. */
                   1517:                                } else
                   1518: #endif
                   1519:                                if (!copy_dest)
                   1520:                                        goto cleanup;
                   1521:                                itemizing = 0;
                   1522:                                code = FNONE;
                   1523:                        } else if (j >= 0)
                   1524:                                statret = 1;
                   1525:                }
1.1.1.2 ! misho    1526:                if (atomic_create(file, fname, sl, MAKEDEV(0, 0), &sx, statret == 0 ? DEL_FOR_SYMLINK : 0)) {
1.1       misho    1527:                        set_file_attrs(fname, file, NULL, NULL, 0);
                   1528:                        if (itemizing) {
1.1.1.2 ! misho    1529:                                if (statret == 0 && !S_ISLNK(sx.st.st_mode))
        !          1530:                                        statret = -1;
1.1       misho    1531:                                itemize(fname, file, ndx, statret, &sx,
                   1532:                                        ITEM_LOCAL_CHANGE|ITEM_REPORT_CHANGE, 0, NULL);
                   1533:                        }
1.1.1.2 ! misho    1534:                        if (code != FNONE && INFO_GTE(NAME, 1))
1.1       misho    1535:                                rprintf(code, "%s -> %s\n", fname, sl);
                   1536: #ifdef SUPPORT_HARD_LINKS
                   1537:                        if (preserve_hard_links && F_IS_HLINKED(file))
                   1538:                                finish_hard_link(file, fname, ndx, NULL, itemizing, code, -1);
                   1539: #endif
                   1540:                        /* This does not check remove_source_files == 1
                   1541:                         * because this is one of the items that the old
                   1542:                         * --remove-sent-files option would remove. */
                   1543:                        if (remove_source_files)
                   1544:                                goto return_with_success;
                   1545:                }
                   1546: #endif
                   1547:                goto cleanup;
                   1548:        }
                   1549: 
                   1550:        if ((am_root && preserve_devices && IS_DEVICE(file->mode))
                   1551:         || (preserve_specials && IS_SPECIAL(file->mode))) {
                   1552:                dev_t rdev;
1.1.1.2 ! misho    1553:                int del_for_flag = 0;
1.1       misho    1554:                if (IS_DEVICE(file->mode)) {
                   1555:                        uint32 *devp = F_RDEV_P(file);
                   1556:                        rdev = MAKEDEV(DEV_MAJOR(devp), DEV_MINOR(devp));
                   1557:                } else
                   1558:                        rdev = 0;
                   1559:                if (statret == 0) {
                   1560:                        if (IS_DEVICE(file->mode)) {
                   1561:                                if (!IS_DEVICE(sx.st.st_mode))
                   1562:                                        statret = -1;
                   1563:                                del_for_flag = DEL_FOR_DEVICE;
                   1564:                        } else {
                   1565:                                if (!IS_SPECIAL(sx.st.st_mode))
                   1566:                                        statret = -1;
                   1567:                                del_for_flag = DEL_FOR_SPECIAL;
                   1568:                        }
                   1569:                        if (statret == 0
                   1570:                         && BITS_EQUAL(sx.st.st_mode, file->mode, _S_IFMT)
                   1571:                         && (IS_SPECIAL(sx.st.st_mode) || sx.st.st_rdev == rdev)) {
                   1572:                                /* The device or special file is identical. */
                   1573:                                set_file_attrs(fname, file, &sx, NULL, maybe_ATTRS_REPORT);
                   1574:                                if (itemizing)
                   1575:                                        itemize(fname, file, ndx, 0, &sx, 0, 0, NULL);
                   1576: #ifdef SUPPORT_HARD_LINKS
                   1577:                                if (preserve_hard_links && F_IS_HLINKED(file))
                   1578:                                        finish_hard_link(file, fname, ndx, &sx.st, itemizing, code, -1);
                   1579: #endif
                   1580:                                if (remove_source_files == 1)
                   1581:                                        goto return_with_success;
                   1582:                                goto cleanup;
                   1583:                        }
                   1584:                } else if (basis_dir[0] != NULL) {
                   1585:                        int j = try_dests_non(file, fname, ndx, fnamecmpbuf, &sx,
                   1586:                                              itemizing, code);
                   1587:                        if (j == -2) {
                   1588: #ifndef CAN_HARDLINK_SPECIAL
                   1589:                                if (link_dest) {
                   1590:                                        /* Resort to --copy-dest behavior. */
                   1591:                                } else
                   1592: #endif
                   1593:                                if (!copy_dest)
                   1594:                                        goto cleanup;
                   1595:                                itemizing = 0;
                   1596:                                code = FNONE;
                   1597:                        } else if (j >= 0)
                   1598:                                statret = 1;
                   1599:                }
1.1.1.2 ! misho    1600:                if (DEBUG_GTE(GENR, 1)) {
1.1       misho    1601:                        rprintf(FINFO, "mknod(%s, 0%o, [%ld,%ld])\n",
                   1602:                                fname, (int)file->mode,
                   1603:                                (long)major(rdev), (long)minor(rdev));
                   1604:                }
1.1.1.2 ! misho    1605:                if (atomic_create(file, fname, NULL, rdev, &sx, del_for_flag)) {
1.1       misho    1606:                        set_file_attrs(fname, file, NULL, NULL, 0);
                   1607:                        if (itemizing) {
                   1608:                                itemize(fname, file, ndx, statret, &sx,
                   1609:                                        ITEM_LOCAL_CHANGE|ITEM_REPORT_CHANGE, 0, NULL);
                   1610:                        }
1.1.1.2 ! misho    1611:                        if (code != FNONE && INFO_GTE(NAME, 1))
1.1       misho    1612:                                rprintf(code, "%s\n", fname);
                   1613: #ifdef SUPPORT_HARD_LINKS
                   1614:                        if (preserve_hard_links && F_IS_HLINKED(file))
                   1615:                                finish_hard_link(file, fname, ndx, NULL, itemizing, code, -1);
                   1616: #endif
                   1617:                        if (remove_source_files == 1)
                   1618:                                goto return_with_success;
                   1619:                }
                   1620:                goto cleanup;
                   1621:        }
                   1622: 
                   1623:        if (!S_ISREG(file->mode)) {
                   1624:                if (solo_file)
                   1625:                        fname = f_name(file, NULL);
                   1626:                rprintf(FINFO, "skipping non-regular file \"%s\"\n", fname);
                   1627:                goto cleanup;
                   1628:        }
                   1629: 
1.1.1.2 ! misho    1630:        if (max_size >= 0 && F_LENGTH(file) > max_size) {
        !          1631:                if (INFO_GTE(SKIP, 1)) {
1.1       misho    1632:                        if (solo_file)
                   1633:                                fname = f_name(file, NULL);
                   1634:                        rprintf(FINFO, "%s is over max-size\n", fname);
                   1635:                }
                   1636:                goto cleanup;
                   1637:        }
1.1.1.2 ! misho    1638:        if (min_size >= 0 && F_LENGTH(file) < min_size) {
        !          1639:                if (INFO_GTE(SKIP, 1)) {
1.1       misho    1640:                        if (solo_file)
                   1641:                                fname = f_name(file, NULL);
                   1642:                        rprintf(FINFO, "%s is under min-size\n", fname);
                   1643:                }
                   1644:                goto cleanup;
                   1645:        }
                   1646: 
                   1647:        if (update_only > 0 && statret == 0
                   1648:            && cmp_time(sx.st.st_mtime, file->modtime) > 0) {
1.1.1.2 ! misho    1649:                if (INFO_GTE(SKIP, 1))
1.1       misho    1650:                        rprintf(FINFO, "%s is newer\n", fname);
                   1651: #ifdef SUPPORT_HARD_LINKS
                   1652:                if (F_IS_HLINKED(file))
                   1653:                        handle_skipped_hlink(file, itemizing, code, f_out);
                   1654: #endif
                   1655:                goto cleanup;
                   1656:        }
                   1657: 
                   1658:        fnamecmp_type = FNAMECMP_FNAME;
                   1659: 
                   1660:        if (statret == 0 && !S_ISREG(sx.st.st_mode)) {
                   1661:                if (delete_item(fname, sx.st.st_mode, del_opts | DEL_FOR_FILE) != 0)
                   1662:                        goto cleanup;
                   1663:                statret = -1;
                   1664:                stat_errno = ENOENT;
                   1665:        }
                   1666: 
1.1.1.2 ! misho    1667:        if (basis_dir[0] != NULL && (statret != 0 || !copy_dest)) {
1.1       misho    1668:                int j = try_dests_reg(file, fname, ndx, fnamecmpbuf, &sx,
1.1.1.2 ! misho    1669:                                      statret == 0, itemizing, code);
1.1       misho    1670:                if (j == -2) {
                   1671:                        if (remove_source_files == 1)
                   1672:                                goto return_with_success;
                   1673:                        goto cleanup;
                   1674:                }
                   1675:                if (j >= 0) {
                   1676:                        fnamecmp = fnamecmpbuf;
                   1677:                        fnamecmp_type = j;
                   1678:                        statret = 0;
                   1679:                }
                   1680:        }
                   1681: 
1.1.1.2 ! misho    1682:        init_stat_x(&real_sx);
        !          1683:        real_sx.st = sx.st; /* Don't copy xattr/acl pointers, as they would free wrong. */
1.1       misho    1684:        real_ret = statret;
                   1685: 
                   1686:        if (partial_dir && (partialptr = partial_dir_fname(fname)) != NULL
                   1687:            && link_stat(partialptr, &partial_st, 0) == 0
                   1688:            && S_ISREG(partial_st.st_mode)) {
                   1689:                if (statret != 0)
                   1690:                        goto prepare_to_open;
                   1691:        } else
                   1692:                partialptr = NULL;
                   1693: 
1.1.1.2 ! misho    1694:        if (statret != 0 && fuzzy_basis) {
        !          1695:                /* Sets fnamecmp_type to FNAMECMP_FUZZY or above. */
        !          1696:                fuzzy_file = find_fuzzy(file, fuzzy_dirlist, &fnamecmp_type);
        !          1697:                if (fuzzy_file) {
1.1       misho    1698:                        f_name(fuzzy_file, fnamecmpbuf);
1.1.1.2 ! misho    1699:                        if (DEBUG_GTE(FUZZY, 1)) {
1.1       misho    1700:                                rprintf(FINFO, "fuzzy basis selected for %s: %s\n",
                   1701:                                        fname, fnamecmpbuf);
                   1702:                        }
                   1703:                        sx.st.st_size = F_LENGTH(fuzzy_file);
                   1704:                        statret = 0;
                   1705:                        fnamecmp = fnamecmpbuf;
                   1706:                }
                   1707:        }
                   1708: 
                   1709:        if (statret != 0) {
                   1710: #ifdef SUPPORT_HARD_LINKS
                   1711:                if (preserve_hard_links && F_HLINK_NOT_LAST(file)) {
                   1712:                        cur_flist->in_progress++;
                   1713:                        goto cleanup;
                   1714:                }
                   1715: #endif
                   1716:                if (stat_errno == ENOENT)
                   1717:                        goto notify_others;
                   1718:                rsyserr(FERROR_XFER, stat_errno, "recv_generator: failed to stat %s",
                   1719:                        full_fname(fname));
                   1720:                goto cleanup;
                   1721:        }
                   1722: 
                   1723:        if (fnamecmp_type <= FNAMECMP_BASIS_DIR_HIGH)
                   1724:                ;
                   1725:        else if (fnamecmp_type == FNAMECMP_FUZZY)
                   1726:                ;
                   1727:        else if (unchanged_file(fnamecmp, file, &sx.st)) {
                   1728:                if (partialptr) {
                   1729:                        do_unlink(partialptr);
                   1730:                        handle_partial_dir(partialptr, PDIR_DELETE);
                   1731:                }
                   1732:                set_file_attrs(fname, file, &sx, NULL, maybe_ATTRS_REPORT);
                   1733:                if (itemizing)
                   1734:                        itemize(fnamecmp, file, ndx, statret, &sx, 0, 0, NULL);
                   1735: #ifdef SUPPORT_HARD_LINKS
                   1736:                if (preserve_hard_links && F_IS_HLINKED(file))
                   1737:                        finish_hard_link(file, fname, ndx, &sx.st, itemizing, code, -1);
                   1738: #endif
                   1739:                if (remove_source_files != 1)
                   1740:                        goto cleanup;
                   1741:          return_with_success:
                   1742:                if (!dry_run)
                   1743:                        send_msg_int(MSG_SUCCESS, ndx);
                   1744:                goto cleanup;
                   1745:        }
                   1746: 
                   1747:        if (append_mode > 0 && sx.st.st_size >= F_LENGTH(file)) {
                   1748: #ifdef SUPPORT_HARD_LINKS
                   1749:                if (F_IS_HLINKED(file))
                   1750:                        handle_skipped_hlink(file, itemizing, code, f_out);
                   1751: #endif
                   1752:                goto cleanup;
                   1753:        }
                   1754: 
                   1755:   prepare_to_open:
                   1756:        if (partialptr) {
                   1757:                sx.st = partial_st;
                   1758:                fnamecmp = partialptr;
                   1759:                fnamecmp_type = FNAMECMP_PARTIAL_DIR;
                   1760:                statret = 0;
                   1761:        }
                   1762: 
                   1763:        if (!do_xfers)
                   1764:                goto notify_others;
                   1765: 
                   1766:        if (read_batch || whole_file) {
                   1767:                if (inplace && make_backups > 0 && fnamecmp_type == FNAMECMP_FNAME) {
                   1768:                        if (!(backupptr = get_backup_name(fname)))
                   1769:                                goto cleanup;
                   1770:                        if (!(back_file = make_file(fname, NULL, NULL, 0, NO_FILTERS)))
                   1771:                                goto pretend_missing;
1.1.1.2 ! misho    1772:                        if (copy_file(fname, backupptr, -1, back_file->mode) < 0) {
1.1       misho    1773:                                unmake_file(back_file);
                   1774:                                back_file = NULL;
                   1775:                                goto cleanup;
                   1776:                        }
                   1777:                }
                   1778:                goto notify_others;
                   1779:        }
                   1780: 
1.1.1.2 ! misho    1781:        if (fuzzy_dirlist[0]) {
        !          1782:                int j = flist_find(fuzzy_dirlist[0], file);
1.1       misho    1783:                if (j >= 0) /* don't use changing file as future fuzzy basis */
1.1.1.2 ! misho    1784:                        fuzzy_dirlist[0]->files[j]->flags |= FLAG_FILE_SENT;
1.1       misho    1785:        }
                   1786: 
                   1787:        /* open the file */
                   1788:        if ((fd = do_open(fnamecmp, O_RDONLY, 0)) < 0) {
                   1789:                rsyserr(FERROR, errno, "failed to open %s, continuing",
                   1790:                        full_fname(fnamecmp));
                   1791:          pretend_missing:
                   1792:                /* pretend the file didn't exist */
                   1793: #ifdef SUPPORT_HARD_LINKS
                   1794:                if (preserve_hard_links && F_HLINK_NOT_LAST(file)) {
                   1795:                        cur_flist->in_progress++;
                   1796:                        goto cleanup;
                   1797:                }
                   1798: #endif
                   1799:                statret = real_ret = -1;
                   1800:                goto notify_others;
                   1801:        }
                   1802: 
                   1803:        if (inplace && make_backups > 0 && fnamecmp_type == FNAMECMP_FNAME) {
                   1804:                if (!(backupptr = get_backup_name(fname))) {
                   1805:                        close(fd);
                   1806:                        goto cleanup;
                   1807:                }
                   1808:                if (!(back_file = make_file(fname, NULL, NULL, 0, NO_FILTERS))) {
                   1809:                        close(fd);
                   1810:                        goto pretend_missing;
                   1811:                }
                   1812:                if (robust_unlink(backupptr) && errno != ENOENT) {
                   1813:                        rsyserr(FERROR_XFER, errno, "unlink %s",
                   1814:                                full_fname(backupptr));
                   1815:                        unmake_file(back_file);
                   1816:                        back_file = NULL;
                   1817:                        close(fd);
                   1818:                        goto cleanup;
                   1819:                }
                   1820:                if ((f_copy = do_open(backupptr, O_WRONLY | O_CREAT | O_TRUNC | O_EXCL, 0600)) < 0) {
1.1.1.2 ! misho    1821:                        rsyserr(FERROR_XFER, errno, "open %s", full_fname(backupptr));
        !          1822:                        unmake_file(back_file);
        !          1823:                        back_file = NULL;
        !          1824:                        close(fd);
        !          1825:                        goto cleanup;
1.1       misho    1826:                }
                   1827:                fnamecmp_type = FNAMECMP_BACKUP;
                   1828:        }
                   1829: 
1.1.1.2 ! misho    1830:        if (DEBUG_GTE(DELTASUM, 3)) {
        !          1831:                rprintf(FINFO, "gen mapped %s of size %s\n",
        !          1832:                        fnamecmp, big_num(sx.st.st_size));
1.1       misho    1833:        }
                   1834: 
1.1.1.2 ! misho    1835:        if (DEBUG_GTE(DELTASUM, 2))
1.1       misho    1836:                rprintf(FINFO, "generating and sending sums for %d\n", ndx);
                   1837: 
                   1838:   notify_others:
                   1839:        if (remove_source_files && !delay_updates && !phase && !dry_run)
                   1840:                increment_active_files(ndx, itemizing, code);
1.1.1.2 ! misho    1841:        if (inc_recurse && (!dry_run || write_batch < 0))
1.1       misho    1842:                cur_flist->in_progress++;
                   1843: #ifdef SUPPORT_HARD_LINKS
                   1844:        if (preserve_hard_links && F_IS_HLINKED(file))
                   1845:                file->flags |= FLAG_FILE_SENT;
                   1846: #endif
                   1847:        write_ndx(f_out, ndx);
                   1848:        if (itemizing) {
                   1849:                int iflags = ITEM_TRANSFER;
                   1850:                if (always_checksum > 0)
                   1851:                        iflags |= ITEM_REPORT_CHANGE;
                   1852:                if (fnamecmp_type != FNAMECMP_FNAME)
                   1853:                        iflags |= ITEM_BASIS_TYPE_FOLLOWS;
1.1.1.2 ! misho    1854:                if (fnamecmp_type >= FNAMECMP_FUZZY)
1.1       misho    1855:                        iflags |= ITEM_XNAME_FOLLOWS;
                   1856:                itemize(fnamecmp, file, -1, real_ret, &real_sx, iflags, fnamecmp_type,
                   1857:                        fuzzy_file ? fuzzy_file->basename : NULL);
1.1.1.2 ! misho    1858:                free_stat_x(&real_sx);
1.1       misho    1859:        }
                   1860: 
                   1861:        if (!do_xfers) {
                   1862: #ifdef SUPPORT_HARD_LINKS
                   1863:                if (preserve_hard_links && F_IS_HLINKED(file))
                   1864:                        finish_hard_link(file, fname, ndx, &sx.st, itemizing, code, -1);
                   1865: #endif
                   1866:                goto cleanup;
                   1867:        }
                   1868:        if (read_batch)
                   1869:                goto cleanup;
                   1870: 
                   1871:        if (statret != 0 || whole_file)
                   1872:                write_sum_head(f_out, NULL);
                   1873:        else if (sx.st.st_size <= 0) {
                   1874:                write_sum_head(f_out, NULL);
                   1875:                close(fd);
                   1876:        } else {
                   1877:                if (generate_and_send_sums(fd, sx.st.st_size, f_out, f_copy) < 0) {
                   1878:                        rprintf(FWARNING,
                   1879:                            "WARNING: file is too large for checksum sending: %s\n",
                   1880:                            fnamecmp);
                   1881:                        write_sum_head(f_out, NULL);
                   1882:                }
                   1883:                close(fd);
                   1884:        }
                   1885: 
                   1886:   cleanup:
                   1887:        if (back_file) {
                   1888:                int save_preserve_xattrs = preserve_xattrs;
                   1889:                if (f_copy >= 0)
                   1890:                        close(f_copy);
                   1891: #ifdef SUPPORT_XATTRS
                   1892:                if (preserve_xattrs) {
                   1893:                        copy_xattrs(fname, backupptr);
                   1894:                        preserve_xattrs = 0;
                   1895:                }
                   1896: #endif
                   1897:                set_file_attrs(backupptr, back_file, NULL, NULL, 0);
                   1898:                preserve_xattrs = save_preserve_xattrs;
1.1.1.2 ! misho    1899:                if (INFO_GTE(BACKUP, 1)) {
1.1       misho    1900:                        rprintf(FINFO, "backed up %s to %s\n",
                   1901:                                fname, backupptr);
                   1902:                }
                   1903:                unmake_file(back_file);
                   1904:        }
                   1905: 
1.1.1.2 ! misho    1906:        free_stat_x(&sx);
        !          1907: }
        !          1908: 
        !          1909: /* If we are replacing an existing hard link, symlink, device, or special file,
        !          1910:  * create a temp-name item and rename it into place.  Only a symlink or hard
        !          1911:  * link puts a non-NULL value into the lnk arg.  Only a device puts a non-0
        !          1912:  * value into the rdev arg.  Specify 0 for the del_for_flag if there is not a
        !          1913:  * file to replace.  This returns 1 on success and 0 on failure. */
        !          1914: int atomic_create(struct file_struct *file, char *fname, const char *lnk,
        !          1915:                  dev_t rdev, stat_x *sxp, int del_for_flag)
        !          1916: {
        !          1917:        char tmpname[MAXPATHLEN];
        !          1918:        const char *create_name;
        !          1919:        int skip_atomic, dir_in_the_way = del_for_flag && S_ISDIR(sxp->st.st_mode);
        !          1920: 
        !          1921:        if (!del_for_flag || dir_in_the_way || tmpdir || !get_tmpname(tmpname, fname, True))
        !          1922:                skip_atomic = 1;
        !          1923:        else
        !          1924:                skip_atomic = 0;
        !          1925: 
        !          1926:        if (del_for_flag) {
        !          1927:                if (make_backups > 0 && !dir_in_the_way) {
        !          1928:                        if (!make_backup(fname, skip_atomic))
        !          1929:                                return 0;
        !          1930:                } else if (skip_atomic) {
        !          1931:                        int del_opts = delete_mode || force_delete ? DEL_RECURSE : 0;
        !          1932:                        if (delete_item(fname, sxp->st.st_mode, del_opts | del_for_flag) != 0)
        !          1933:                                return 0;
        !          1934:                }
        !          1935:        }
        !          1936: 
        !          1937:        create_name = skip_atomic ? fname : tmpname;
        !          1938: 
        !          1939:        if (lnk) {
        !          1940: #ifdef SUPPORT_LINKS
        !          1941:                if (S_ISLNK(file->mode)
        !          1942: #ifdef SUPPORT_HARD_LINKS /* The first symlink in a hard-linked cluster is always created. */
        !          1943:                 && (!F_IS_HLINKED(file) || file->flags & FLAG_HLINK_FIRST)
        !          1944: #endif
        !          1945:                 ) {
        !          1946:                        if (do_symlink(lnk, create_name) < 0) {
        !          1947:                                rsyserr(FERROR_XFER, errno, "symlink %s -> \"%s\" failed",
        !          1948:                                        full_fname(create_name), lnk);
        !          1949:                                return 0;
        !          1950:                        }
        !          1951:                } else
1.1       misho    1952: #endif
1.1.1.2 ! misho    1953: #ifdef SUPPORT_HARD_LINKS
        !          1954:                if (!hard_link_one(file, create_name, lnk, 0))
        !          1955:                        return 0;
1.1       misho    1956: #endif
1.1.1.2 ! misho    1957:        } else {
        !          1958:                if (do_mknod(create_name, file->mode, rdev) < 0) {
        !          1959:                        rsyserr(FERROR_XFER, errno, "mknod %s failed",
        !          1960:                                full_fname(create_name));
        !          1961:                        return 0;
        !          1962:                }
        !          1963:        }
        !          1964: 
        !          1965:        if (!skip_atomic) {
        !          1966:                if (do_rename(tmpname, fname) < 0) {
        !          1967:                        rsyserr(FERROR_XFER, errno, "rename %s -> \"%s\" failed",
        !          1968:                                full_fname(tmpname), full_fname(fname));
        !          1969:                        do_unlink(tmpname);
        !          1970:                        return 0;
        !          1971:                }
        !          1972:        }
        !          1973: 
        !          1974:        return 1;
1.1       misho    1975: }
                   1976: 
                   1977: #ifdef SUPPORT_HARD_LINKS
                   1978: static void handle_skipped_hlink(struct file_struct *file, int itemizing,
                   1979:                                 enum logcode code, int f_out)
                   1980: {
                   1981:        char fbuf[MAXPATHLEN];
                   1982:        int new_last_ndx;
                   1983:        struct file_list *save_flist = cur_flist;
                   1984: 
                   1985:        /* If we skip the last item in a chain of links and there was a
                   1986:         * prior non-skipped hard-link waiting to finish, finish it now. */
                   1987:        if ((new_last_ndx = skip_hard_link(file, &cur_flist)) < 0)
                   1988:                return;
                   1989: 
                   1990:        file = cur_flist->files[new_last_ndx - cur_flist->ndx_start];
                   1991:        cur_flist->in_progress--; /* undo prior increment */
                   1992:        f_name(file, fbuf);
                   1993:        recv_generator(fbuf, file, new_last_ndx, itemizing, code, f_out);
                   1994: 
                   1995:        cur_flist = save_flist;
                   1996: }
                   1997: #endif
                   1998: 
                   1999: static void touch_up_dirs(struct file_list *flist, int ndx)
                   2000: {
                   2001:        static int counter = 0;
                   2002:        struct file_struct *file;
                   2003:        char *fname;
                   2004:        BOOL fix_dir_perms;
                   2005:        int i, start, end;
                   2006: 
                   2007:        if (ndx < 0) {
                   2008:                start = 0;
                   2009:                end = flist->used - 1;
                   2010:        } else
                   2011:                start = end = ndx;
                   2012: 
                   2013:        /* Fix any directory permissions that were modified during the
                   2014:         * transfer and/or re-set any tweaked modified-time values. */
                   2015:        for (i = start; i <= end; i++, counter++) {
                   2016:                file = flist->files[i];
                   2017:                if (!S_ISDIR(file->mode)
                   2018:                 || (!implied_dirs && file->flags & FLAG_IMPLIED_DIR))
                   2019:                        continue;
1.1.1.2 ! misho    2020:                if (DEBUG_GTE(TIME, 2)) {
1.1       misho    2021:                        fname = f_name(file, NULL);
                   2022:                        rprintf(FINFO, "touch_up_dirs: %s (%d)\n",
                   2023:                                NS(fname), i);
                   2024:                }
                   2025:                /* Be sure not to retouch permissions with --fake-super. */
                   2026:                fix_dir_perms = !am_root && !(file->mode & S_IWUSR);
                   2027:                if (!F_IS_ACTIVE(file) || file->flags & FLAG_MISSING_DIR
                   2028:                 || !(need_retouch_dir_times || fix_dir_perms))
                   2029:                        continue;
                   2030:                fname = f_name(file, NULL);
                   2031:                if (fix_dir_perms)
                   2032:                        do_chmod(fname, file->mode);
                   2033:                if (need_retouch_dir_times) {
                   2034:                        STRUCT_STAT st;
                   2035:                        if (link_stat(fname, &st, 0) == 0
                   2036:                         && cmp_time(st.st_mtime, file->modtime) != 0)
1.1.1.2 ! misho    2037:                                set_modtime(fname, file->modtime, F_MOD_NSEC(file), file->mode);
1.1       misho    2038:                }
                   2039:                if (counter >= loopchk_limit) {
                   2040:                        if (allowed_lull)
1.1.1.2 ! misho    2041:                                maybe_send_keepalive(time(NULL), MSK_ALLOW_FLUSH);
1.1       misho    2042:                        else
                   2043:                                maybe_flush_socket(0);
                   2044:                        counter = 0;
                   2045:                }
                   2046:        }
                   2047: }
                   2048: 
                   2049: void check_for_finished_files(int itemizing, enum logcode code, int check_redo)
                   2050: {
                   2051:        struct file_struct *file;
                   2052:        struct file_list *flist;
                   2053:        char fbuf[MAXPATHLEN];
                   2054:        int ndx;
                   2055: 
                   2056:        while (1) {
                   2057: #ifdef SUPPORT_HARD_LINKS
                   2058:                if (preserve_hard_links && (ndx = get_hlink_num()) != -1) {
                   2059:                        int send_failed = (ndx == -2);
                   2060:                        if (send_failed)
                   2061:                                ndx = get_hlink_num();
                   2062:                        flist = flist_for_ndx(ndx, "check_for_finished_files.1");
                   2063:                        file = flist->files[ndx - flist->ndx_start];
                   2064:                        assert(file->flags & FLAG_HLINKED);
                   2065:                        if (send_failed)
                   2066:                                handle_skipped_hlink(file, itemizing, code, sock_f_out);
                   2067:                        else
                   2068:                                finish_hard_link(file, f_name(file, fbuf), ndx, NULL, itemizing, code, -1);
                   2069:                        flist->in_progress--;
                   2070:                        continue;
                   2071:                }
                   2072: #endif
                   2073: 
                   2074:                if (check_redo && (ndx = get_redo_num()) != -1) {
1.1.1.2 ! misho    2075:                        OFF_T save_max_size = max_size;
        !          2076:                        OFF_T save_min_size = min_size;
1.1       misho    2077:                        csum_length = SUM_LENGTH;
1.1.1.2 ! misho    2078:                        max_size = -1;
        !          2079:                        min_size = -1;
1.1       misho    2080:                        ignore_existing = -ignore_existing;
                   2081:                        ignore_non_existing = -ignore_non_existing;
                   2082:                        update_only = -update_only;
                   2083:                        always_checksum = -always_checksum;
                   2084:                        size_only = -size_only;
                   2085:                        append_mode = -append_mode;
                   2086:                        make_backups = -make_backups; /* avoid dup backup w/inplace */
                   2087:                        ignore_times++;
                   2088: 
                   2089:                        flist = cur_flist;
                   2090:                        cur_flist = flist_for_ndx(ndx, "check_for_finished_files.2");
                   2091: 
                   2092:                        file = cur_flist->files[ndx - cur_flist->ndx_start];
                   2093:                        if (solo_file)
                   2094:                                strlcpy(fbuf, solo_file, sizeof fbuf);
                   2095:                        else
                   2096:                                f_name(file, fbuf);
                   2097:                        recv_generator(fbuf, file, ndx, itemizing, code, sock_f_out);
                   2098:                        cur_flist->to_redo--;
                   2099: 
                   2100:                        cur_flist = flist;
                   2101: 
                   2102:                        csum_length = SHORT_SUM_LENGTH;
1.1.1.2 ! misho    2103:                        max_size = save_max_size;
        !          2104:                        min_size = save_min_size;
1.1       misho    2105:                        ignore_existing = -ignore_existing;
                   2106:                        ignore_non_existing = -ignore_non_existing;
                   2107:                        update_only = -update_only;
                   2108:                        always_checksum = -always_checksum;
                   2109:                        size_only = -size_only;
                   2110:                        append_mode = -append_mode;
                   2111:                        make_backups = -make_backups;
                   2112:                        ignore_times--;
                   2113:                        continue;
                   2114:                }
                   2115: 
                   2116:                if (cur_flist == first_flist)
                   2117:                        break;
                   2118: 
                   2119:                /* We only get here if inc_recurse is enabled. */
                   2120:                if (first_flist->in_progress || first_flist->to_redo)
                   2121:                        break;
                   2122: 
                   2123:                write_ndx(sock_f_out, NDX_DONE);
1.1.1.2 ! misho    2124:                if (!read_batch && !flist_eof) {
        !          2125:                        int old_total = 0;
        !          2126:                        for (flist = first_flist; flist != cur_flist; flist = flist->next)
        !          2127:                                old_total += flist->used;
        !          2128:                        maybe_flush_socket(!flist_eof && file_total - old_total < MIN_FILECNT_LOOKAHEAD/2);
        !          2129:                }
1.1       misho    2130: 
                   2131:                if (delete_during == 2 || !dir_tweaking) {
                   2132:                        /* Skip directory touch-up. */
                   2133:                } else if (first_flist->parent_ndx >= 0)
                   2134:                        touch_up_dirs(dir_flist, first_flist->parent_ndx);
                   2135: 
                   2136:                flist_free(first_flist); /* updates first_flist */
                   2137:        }
                   2138: }
                   2139: 
                   2140: void generate_files(int f_out, const char *local_name)
                   2141: {
                   2142:        int i, ndx, next_loopchk = 0;
                   2143:        char fbuf[MAXPATHLEN];
                   2144:        int itemizing;
                   2145:        enum logcode code;
1.1.1.2 ! misho    2146:        int save_info_flist = info_levels[INFO_FLIST];
        !          2147:        int save_info_progress = info_levels[INFO_PROGRESS];
1.1       misho    2148: 
                   2149:        if (protocol_version >= 29) {
                   2150:                itemizing = 1;
                   2151:                maybe_ATTRS_REPORT = stdout_format_has_i ? 0 : ATTRS_REPORT;
                   2152:                code = logfile_format_has_i ? FNONE : FLOG;
                   2153:        } else if (am_daemon) {
                   2154:                itemizing = logfile_format_has_i && do_xfers;
                   2155:                maybe_ATTRS_REPORT = ATTRS_REPORT;
                   2156:                code = itemizing || !do_xfers ? FCLIENT : FINFO;
                   2157:        } else if (!am_server) {
                   2158:                itemizing = stdout_format_has_i;
                   2159:                maybe_ATTRS_REPORT = stdout_format_has_i ? 0 : ATTRS_REPORT;
                   2160:                code = itemizing ? FNONE : FINFO;
                   2161:        } else {
                   2162:                itemizing = 0;
                   2163:                maybe_ATTRS_REPORT = ATTRS_REPORT;
                   2164:                code = FINFO;
                   2165:        }
                   2166:        solo_file = local_name;
                   2167:        dir_tweaking = !(list_only || solo_file || dry_run);
                   2168:        need_retouch_dir_times = preserve_times & PRESERVE_DIR_TIMES;
                   2169:        loopchk_limit = allowed_lull ? allowed_lull * 5 : 200;
                   2170:        symlink_timeset_failed_flags = ITEM_REPORT_TIME
                   2171:            | (protocol_version >= 30 || !am_server ? ITEM_REPORT_TIMEFAIL : 0);
                   2172:        implied_dirs_are_missing = relative_paths && !implied_dirs && protocol_version < 30;
                   2173: 
1.1.1.2 ! misho    2174:        if (DEBUG_GTE(GENR, 1))
        !          2175:                rprintf(FINFO, "generator starting pid=%d\n", (int)getpid());
1.1       misho    2176: 
                   2177:        if (delete_before && !solo_file && cur_flist->used > 0)
                   2178:                do_delete_pass();
                   2179:        if (delete_during == 2) {
                   2180:                deldelay_size = BIGPATHBUFLEN * 4;
                   2181:                deldelay_buf = new_array(char, deldelay_size);
                   2182:                if (!deldelay_buf)
                   2183:                        out_of_memory("delete-delay");
                   2184:        }
1.1.1.2 ! misho    2185:        info_levels[INFO_FLIST] = info_levels[INFO_PROGRESS] = 0;
1.1       misho    2186: 
                   2187:        if (append_mode > 0 || whole_file < 0)
                   2188:                whole_file = 0;
1.1.1.2 ! misho    2189:        if (DEBUG_GTE(FLIST, 1)) {
1.1       misho    2190:                rprintf(FINFO, "delta-transmission %s\n",
                   2191:                        whole_file
                   2192:                        ? "disabled for local transfer or --whole-file"
                   2193:                        : "enabled");
                   2194:        }
                   2195: 
                   2196:        dflt_perms = (ACCESSPERMS & ~orig_umask);
                   2197: 
                   2198:        do {
                   2199: #ifdef SUPPORT_HARD_LINKS
                   2200:                if (preserve_hard_links && inc_recurse) {
1.1.1.2 ! misho    2201:                        while (!flist_eof && file_total < MIN_FILECNT_LOOKAHEAD/2)
1.1       misho    2202:                                wait_for_receiver();
                   2203:                }
                   2204: #endif
                   2205: 
                   2206:                if (inc_recurse && cur_flist->parent_ndx >= 0) {
                   2207:                        struct file_struct *fp = dir_flist->files[cur_flist->parent_ndx];
                   2208:                        if (solo_file)
                   2209:                                strlcpy(fbuf, solo_file, sizeof fbuf);
                   2210:                        else
                   2211:                                f_name(fp, fbuf);
                   2212:                        ndx = cur_flist->ndx_start - 1;
                   2213:                        recv_generator(fbuf, fp, ndx, itemizing, code, f_out);
                   2214:                        if (delete_during && dry_run < 2 && !list_only
                   2215:                         && !(fp->flags & FLAG_MISSING_DIR)) {
                   2216:                                if (fp->flags & FLAG_CONTENT_DIR) {
                   2217:                                        dev_t dirdev;
                   2218:                                        if (one_file_system) {
                   2219:                                                uint32 *devp = F_DIR_DEV_P(fp);
                   2220:                                                dirdev = MAKEDEV(DEV_MAJOR(devp), DEV_MINOR(devp));
                   2221:                                        } else
                   2222:                                                dirdev = MAKEDEV(0, 0);
                   2223:                                        delete_in_dir(fbuf, fp, &dirdev);
                   2224:                                } else
                   2225:                                        change_local_filter_dir(fbuf, strlen(fbuf), F_DEPTH(fp));
                   2226:                        }
                   2227:                }
                   2228:                for (i = cur_flist->low; i <= cur_flist->high; i++) {
                   2229:                        struct file_struct *file = cur_flist->sorted[i];
                   2230: 
                   2231:                        if (!F_IS_ACTIVE(file))
                   2232:                                continue;
                   2233: 
                   2234:                        if (unsort_ndx)
                   2235:                                ndx = F_NDX(file);
                   2236:                        else
                   2237:                                ndx = i + cur_flist->ndx_start;
                   2238: 
                   2239:                        if (solo_file)
                   2240:                                strlcpy(fbuf, solo_file, sizeof fbuf);
                   2241:                        else
                   2242:                                f_name(file, fbuf);
                   2243:                        recv_generator(fbuf, file, ndx, itemizing, code, f_out);
                   2244: 
                   2245:                        check_for_finished_files(itemizing, code, 0);
                   2246: 
                   2247:                        if (i + cur_flist->ndx_start >= next_loopchk) {
                   2248:                                if (allowed_lull)
1.1.1.2 ! misho    2249:                                        maybe_send_keepalive(time(NULL), MSK_ALLOW_FLUSH);
1.1       misho    2250:                                else
                   2251:                                        maybe_flush_socket(0);
                   2252:                                next_loopchk += loopchk_limit;
                   2253:                        }
                   2254:                }
                   2255: 
                   2256:                if (!inc_recurse) {
                   2257:                        write_ndx(f_out, NDX_DONE);
                   2258:                        break;
                   2259:                }
                   2260: 
                   2261:                while (1) {
                   2262:                        check_for_finished_files(itemizing, code, 1);
                   2263:                        if (cur_flist->next || flist_eof)
                   2264:                                break;
                   2265:                        wait_for_receiver();
                   2266:                }
                   2267:        } while ((cur_flist = cur_flist->next) != NULL);
                   2268: 
                   2269:        if (delete_during)
                   2270:                delete_in_dir(NULL, NULL, &dev_zero);
                   2271:        phase++;
1.1.1.2 ! misho    2272:        if (DEBUG_GTE(GENR, 1))
1.1       misho    2273:                rprintf(FINFO, "generate_files phase=%d\n", phase);
                   2274: 
                   2275:        while (1) {
                   2276:                check_for_finished_files(itemizing, code, 1);
                   2277:                if (msgdone_cnt)
                   2278:                        break;
                   2279:                wait_for_receiver();
                   2280:        }
                   2281: 
                   2282:        phase++;
1.1.1.2 ! misho    2283:        if (DEBUG_GTE(GENR, 1))
1.1       misho    2284:                rprintf(FINFO, "generate_files phase=%d\n", phase);
                   2285: 
                   2286:        write_ndx(f_out, NDX_DONE);
                   2287: 
                   2288:        /* Reduce round-trip lag-time for a useless delay-updates phase. */
1.1.1.2 ! misho    2289:        if (protocol_version >= 29 && EARLY_DELAY_DONE_MSG())
1.1       misho    2290:                write_ndx(f_out, NDX_DONE);
                   2291: 
1.1.1.2 ! misho    2292:        if (protocol_version >= 31 && EARLY_DELETE_DONE_MSG()) {
        !          2293:                if ((INFO_GTE(STATS, 2) && (delete_mode || force_delete)) || read_batch)
        !          2294:                        write_del_stats(f_out);
        !          2295:                if (EARLY_DELAY_DONE_MSG()) /* Can't send this before delay */
        !          2296:                        write_ndx(f_out, NDX_DONE);
        !          2297:        }
        !          2298: 
1.1       misho    2299:        /* Read MSG_DONE for the redo phase (and any prior messages). */
                   2300:        while (1) {
                   2301:                check_for_finished_files(itemizing, code, 0);
                   2302:                if (msgdone_cnt > 1)
                   2303:                        break;
                   2304:                wait_for_receiver();
                   2305:        }
                   2306: 
                   2307:        if (protocol_version >= 29) {
                   2308:                phase++;
1.1.1.2 ! misho    2309:                if (DEBUG_GTE(GENR, 1))
1.1       misho    2310:                        rprintf(FINFO, "generate_files phase=%d\n", phase);
1.1.1.2 ! misho    2311:                if (!EARLY_DELAY_DONE_MSG()) {
1.1       misho    2312:                        write_ndx(f_out, NDX_DONE);
1.1.1.2 ! misho    2313:                        if (protocol_version >= 31 && EARLY_DELETE_DONE_MSG())
        !          2314:                                write_ndx(f_out, NDX_DONE);
        !          2315:                }
1.1       misho    2316:                /* Read MSG_DONE for delay-updates phase & prior messages. */
                   2317:                while (msgdone_cnt == 2)
                   2318:                        wait_for_receiver();
                   2319:        }
                   2320: 
1.1.1.2 ! misho    2321:        info_levels[INFO_FLIST] = save_info_flist;
        !          2322:        info_levels[INFO_PROGRESS] = save_info_progress;
        !          2323: 
1.1       misho    2324:        if (delete_during == 2)
                   2325:                do_delayed_deletions(fbuf);
                   2326:        if (delete_after && !solo_file && file_total > 0)
                   2327:                do_delete_pass();
                   2328: 
1.1.1.2 ! misho    2329:        if (max_delete >= 0 && skipped_deletes) {
1.1       misho    2330:                rprintf(FWARNING,
                   2331:                        "Deletions stopped due to --max-delete limit (%d skipped)\n",
1.1.1.2 ! misho    2332:                        skipped_deletes);
1.1       misho    2333:                io_error |= IOERR_DEL_LIMIT;
                   2334:        }
                   2335: 
1.1.1.2 ! misho    2336:        if (protocol_version >= 31) {
        !          2337:                if (!EARLY_DELETE_DONE_MSG()) {
        !          2338:                        if (INFO_GTE(STATS, 2) || read_batch)
        !          2339:                                write_del_stats(f_out);
        !          2340:                        write_ndx(f_out, NDX_DONE);
        !          2341:                }
        !          2342: 
        !          2343:                /* Read MSG_DONE for late-delete phase & prior messages. */
        !          2344:                while (msgdone_cnt == 3)
        !          2345:                        wait_for_receiver();
        !          2346:        }
        !          2347: 
        !          2348:        if ((need_retouch_dir_perms || need_retouch_dir_times)
        !          2349:         && dir_tweaking && (!inc_recurse || delete_during == 2))
        !          2350:                touch_up_dirs(dir_flist, -1);
        !          2351: 
        !          2352:        if (DEBUG_GTE(GENR, 1))
1.1       misho    2353:                rprintf(FINFO, "generate_files finished\n");
                   2354: }

FreeBSD-CVSweb <freebsd-cvsweb@FreeBSD.org>