fs/ocfs2/journal.c

   1 /* -*- mode: c; c-basic-offset: 8; -*-
   2  * vim: noexpandtab sw=8 ts=8 sts=0:
   3  *
   4  * journal.c
   5  *
   6  * Defines functions of journalling api
   7  *
   8  * Copyright (C) 2003, 2004 Oracle.  All rights reserved.
   9  *
  10  * This program is free software; you can redistribute it and/or
  11  * modify it under the terms of the GNU General Public
  12  * License as published by the Free Software Foundation; either
  13  * version 2 of the License, or (at your option) any later version.
  14  *
  15  * This program is distributed in the hope that it will be useful,
  16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  18  * General Public License for more details.
  19  *
  20  * You should have received a copy of the GNU General Public
  21  * License along with this program; if not, write to the
  22  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
  23  * Boston, MA 021110-1307, USA.
  24  */
  25
  26 #include <linux/fs.h>
  27 #include <linux/types.h>
  28 #include <linux/slab.h>
  29 #include <linux/highmem.h>
  30 #include <linux/kthread.h>
  31
  32 #define MLOG_MASK_PREFIX ML_JOURNAL
  33 #include <cluster/masklog.h>
  34
  35 #include "ocfs2.h"
  36
  37 #include "alloc.h"
  38 #include "dlmglue.h"
  39 #include "extent_map.h"
  40 #include "heartbeat.h"
  41 #include "inode.h"
  42 #include "journal.h"
  43 #include "localalloc.h"
  44 #include "namei.h"
  45 #include "slot_map.h"
  46 #include "super.h"
  47 #include "vote.h"
  48 #include "sysfile.h"
  49
  50 #include "buffer_head_io.h"
  51
  52 DEFINE_SPINLOCK(trans_inc_lock);
  53
  54 static int ocfs2_force_read_journal(struct inode *inode);
  55 static int ocfs2_recover_node(struct ocfs2_super *osb,
  56                               int node_num);
  57 static int __ocfs2_recovery_thread(void *arg);
  58 static int ocfs2_commit_cache(struct ocfs2_super *osb);
  59 static int ocfs2_wait_on_mount(struct ocfs2_super *osb);
  60 static int ocfs2_journal_toggle_dirty(struct ocfs2_super *osb,
  61                                       int dirty);
  62 static int ocfs2_trylock_journal(struct ocfs2_super *osb,
  63                                  int slot_num);
  64 static int ocfs2_recover_orphans(struct ocfs2_super *osb,
  65                                  int slot);
  66 static int ocfs2_commit_thread(void *arg);
  67
  68 static int ocfs2_commit_cache(struct ocfs2_super *osb)
  69 {
  70         int status = 0;
  71         unsigned int flushed;
  72         unsigned long old_id;
  73         struct ocfs2_journal *journal = NULL;
  74
  75         mlog_entry_void();
  76
  77         journal = osb->journal;
  78
  79         /* Flush all pending commits and checkpoint the journal. */
  80         down_write(&journal->j_trans_barrier);
  81
  82         if (atomic_read(&journal->j_num_trans) == 0) {
  83                 up_write(&journal->j_trans_barrier);
  84                 mlog(0, "No transactions for me to flush!\n");
  85                 goto finally;
  86         }
  87
  88         journal_lock_updates(journal->j_journal);
  89         status = journal_flush(journal->j_journal);
  90         journal_unlock_updates(journal->j_journal);
  91         if (status < 0) {
  92                 up_write(&journal->j_trans_barrier);
  93                 mlog_errno(status);
  94                 goto finally;
  95         }
  96
  97         old_id = ocfs2_inc_trans_id(journal);
  98
  99         flushed = atomic_read(&journal->j_num_trans);
 100         atomic_set(&journal->j_num_trans, 0);
 101         up_write(&journal->j_trans_barrier);
 102
 103         mlog(0, "commit_thread: flushed transaction %lu (%u handles)\n",
 104              journal->j_trans_id, flushed);
 105
 106         ocfs2_kick_vote_thread(osb);
 107         wake_up(&journal->j_checkpointed);
 108 finally:
 109         mlog_exit(status);
 110         return status;
 111 }
 112
 113 /* pass it NULL and it will allocate a new handle object for you.  If
 114  * you pass it a handle however, it may still return error, in which
 115  * case it has free'd the passed handle for you. */
 116 handle_t *ocfs2_start_trans(struct ocfs2_super *osb, int max_buffs)
 117 {
 118         journal_t *journal = osb->journal->j_journal;
 119         handle_t *handle;
 120
 121         BUG_ON(!osb || !osb->journal->j_journal);
 122
 123         if (ocfs2_is_hard_readonly(osb))
 124                 return ERR_PTR(-EROFS);
 125
 126         BUG_ON(osb->journal->j_state == OCFS2_JOURNAL_FREE);
 127         BUG_ON(max_buffs <= 0);
 128
 129         /* JBD might support this, but our journalling code doesn't yet. */
 130         if (journal_current_handle()) {
 131                 mlog(ML_ERROR, "Recursive transaction attempted!\n");
 132                 BUG();
 133         }
 134
 135         down_read(&osb->journal->j_trans_barrier);
 136
 137         handle = journal_start(journal, max_buffs);
 138         if (IS_ERR(handle)) {
 139                 up_read(&osb->journal->j_trans_barrier);
 140
 141                 mlog_errno(PTR_ERR(handle));
 142
 143                 if (is_journal_aborted(journal)) {
 144                         ocfs2_abort(osb->sb, "Detected aborted journal");
 145                         handle = ERR_PTR(-EROFS);
 146                 }
 147         } else {
 148                 if (!ocfs2_mount_local(osb))
 149                         atomic_inc(&(osb->journal->j_num_trans));
 150         }
 151
 152         return handle;
 153 }
 154
 155 int ocfs2_commit_trans(struct ocfs2_super *osb,
 156                        handle_t *handle)
 157 {
 158         int ret;
 159         struct ocfs2_journal *journal = osb->journal;
 160
 161         BUG_ON(!handle);
 162
 163         ret = journal_stop(handle);
 164         if (ret < 0)
 165                 mlog_errno(ret);
 166
 167         up_read(&journal->j_trans_barrier);
 168
 169         return ret;
 170 }
 171
 172 /*
 173  * 'nblocks' is what you want to add to the current
 174  * transaction. extend_trans will either extend the current handle by
 175  * nblocks, or commit it and start a new one with nblocks credits.
 176  *
 177  * WARNING: This will not release any semaphores or disk locks taken
 178  * during the transaction, so make sure they were taken *before*
 179  * start_trans or we'll have ordering deadlocks.
 180  *
 181  * WARNING2: Note that we do *not* drop j_trans_barrier here. This is
 182  * good because transaction ids haven't yet been recorded on the
 183  * cluster locks associated with this handle.
 184  */
 185 int ocfs2_extend_trans(handle_t *handle, int nblocks)
 186 {
 187         int status;
 188
 189         BUG_ON(!handle);
 190         BUG_ON(!nblocks);
 191
 192         mlog_entry_void();
 193
 194         mlog(0, "Trying to extend transaction by %d blocks\n", nblocks);
 195
 196         status = journal_extend(handle, nblocks);
 197         if (status < 0) {
 198                 mlog_errno(status);
 199                 goto bail;
 200         }
 201
 202         if (status > 0) {
 203                 mlog(0, "journal_extend failed, trying journal_restart\n");
 204                 status = journal_restart(handle, nblocks);
 205                 if (status < 0) {
 206                         mlog_errno(status);
 207                         goto bail;
 208                 }
 209         }
 210
 211         status = 0;
 212 bail:
 213
 214         mlog_exit(status);
 215         return status;
 216 }
 217
 218 int ocfs2_journal_access(handle_t *handle,
 219                          struct inode *inode,
 220                          struct buffer_head *bh,
 221                          int type)
 222 {
 223         int status;
 224
 225         BUG_ON(!inode);
 226         BUG_ON(!handle);
 227         BUG_ON(!bh);
 228
 229         mlog_entry("bh->b_blocknr=%llu, type=%d (\"%s\"), bh->b_size = %zu\n",
 230                    (unsigned long long)bh->b_blocknr, type,
 231                    (type == OCFS2_JOURNAL_ACCESS_CREATE) ?
 232                    "OCFS2_JOURNAL_ACCESS_CREATE" :
 233                    "OCFS2_JOURNAL_ACCESS_WRITE",
 234                    bh->b_size);
 235
 236         /* we can safely remove this assertion after testing. */
 237         if (!buffer_uptodate(bh)) {
 238                 mlog(ML_ERROR, "giving me a buffer that's not uptodate!\n");
 239                 mlog(ML_ERROR, "b_blocknr=%llu\n",
 240                      (unsigned long long)bh->b_blocknr);
 241                 BUG();
 242         }
 243
 244         /* Set the current transaction information on the inode so
 245          * that the locking code knows whether it can drop it's locks
 246          * on this inode or not. We're protected from the commit
 247          * thread updating the current transaction id until
 248          * ocfs2_commit_trans() because ocfs2_start_trans() took
 249          * j_trans_barrier for us. */
 250         ocfs2_set_inode_lock_trans(OCFS2_SB(inode->i_sb)->journal, inode);
 251
 252         mutex_lock(&OCFS2_I(inode)->ip_io_mutex);
 253         switch (type) {
 254         case OCFS2_JOURNAL_ACCESS_CREATE:
 255         case OCFS2_JOURNAL_ACCESS_WRITE:
 256                 status = journal_get_write_access(handle, bh);
 257                 break;
 258
 259         case OCFS2_JOURNAL_ACCESS_UNDO:
 260                 status = journal_get_undo_access(handle, bh);
 261                 break;
 262
 263         default:
 264                 status = -EINVAL;
 265                 mlog(ML_ERROR, "Uknown access type!\n");
 266         }
 267         mutex_unlock(&OCFS2_I(inode)->ip_io_mutex);
 268
 269         if (status < 0)
 270                 mlog(ML_ERROR, "Error %d getting %d access to buffer!\n",
 271                      status, type);
 272
 273         mlog_exit(status);
 274         return status;
 275 }
 276
 277 int ocfs2_journal_dirty(handle_t *handle,
 278                         struct buffer_head *bh)
 279 {
 280         int status;
 281
 282         mlog_entry("(bh->b_blocknr=%llu)\n",
 283                    (unsigned long long)bh->b_blocknr);
 284
 285         status = journal_dirty_metadata(handle, bh);
 286         if (status < 0)
 287                 mlog(ML_ERROR, "Could not dirty metadata buffer. "
 288                      "(bh->b_blocknr=%llu)\n",
 289                      (unsigned long long)bh->b_blocknr);
 290
 291         mlog_exit(status);
 292         return status;
 293 }
 294
 295 int ocfs2_journal_dirty_data(handle_t *handle,
 296                              struct buffer_head *bh)
 297 {
 298         int err = journal_dirty_data(handle, bh);
 299         if (err)
 300                 mlog_errno(err);
 301         /* TODO: When we can handle it, abort the handle and go RO on
 302          * error here. */
 303
 304         return err;
 305 }
 306
 307 #define OCFS2_DEFAULT_COMMIT_INTERVAL   (HZ * 5)
 308
 309 void ocfs2_set_journal_params(struct ocfs2_super *osb)
 310 {
 311         journal_t *journal = osb->journal->j_journal;
 312
 313         spin_lock(&journal->j_state_lock);
 314         journal->j_commit_interval = OCFS2_DEFAULT_COMMIT_INTERVAL;
 315         if (osb->s_mount_opt & OCFS2_MOUNT_BARRIER)
 316                 journal->j_flags |= JFS_BARRIER;
 317         else
 318                 journal->j_flags &= ~JFS_BARRIER;
 319         spin_unlock(&journal->j_state_lock);
 320 }
 321
 322 int ocfs2_journal_init(struct ocfs2_journal *journal, int *dirty)
 323 {
 324         int status = -1;
 325         struct inode *inode = NULL; /* the journal inode */
 326         journal_t *j_journal = NULL;
 327         struct ocfs2_dinode *di = NULL;
 328         struct buffer_head *bh = NULL;
 329         struct ocfs2_super *osb;
 330         int meta_lock = 0;
 331
 332         mlog_entry_void();
 333
 334         BUG_ON(!journal);
 335
 336         osb = journal->j_osb;
 337
 338         /* already have the inode for our journal */
 339         inode = ocfs2_get_system_file_inode(osb, JOURNAL_SYSTEM_INODE,
 340                                             osb->slot_num);
 341         if (inode == NULL) {
 342                 status = -EACCES;
 343                 mlog_errno(status);
 344                 goto done;
 345         }
 346         if (is_bad_inode(inode)) {
 347                 mlog(ML_ERROR, "access error (bad inode)\n");
 348                 iput(inode);
 349                 inode = NULL;
 350                 status = -EACCES;
 351                 goto done;
 352         }
 353
 354         SET_INODE_JOURNAL(inode);
 355         OCFS2_I(inode)->ip_open_count++;
 356
 357         /* Skip recovery waits here - journal inode metadata never
 358          * changes in a live cluster so it can be considered an
 359          * exception to the rule. */
 360         status = ocfs2_meta_lock_full(inode, &bh, 1, OCFS2_META_LOCK_RECOVERY);
 361         if (status < 0) {
 362                 if (status != -ERESTARTSYS)
 363                         mlog(ML_ERROR, "Could not get lock on journal!\n");
 364                 goto done;
 365         }
 366
 367         meta_lock = 1;
 368         di = (struct ocfs2_dinode *)bh->b_data;
 369
 370         if (inode->i_size <  OCFS2_MIN_JOURNAL_SIZE) {
 371                 mlog(ML_ERROR, "Journal file size (%lld) is too small!\n",
 372                      inode->i_size);
 373                 status = -EINVAL;
 374                 goto done;
 375         }
 376
 377         mlog(0, "inode->i_size = %lld\n", inode->i_size);
 378         mlog(0, "inode->i_blocks = %llu\n",
 379                         (unsigned long long)inode->i_blocks);
 380         mlog(0, "inode->ip_clusters = %u\n", OCFS2_I(inode)->ip_clusters);
 381
 382         /* call the kernels journal init function now */
 383         j_journal = journal_init_inode(inode);
 384         if (j_journal == NULL) {
 385                 mlog(ML_ERROR, "Linux journal layer error\n");
 386                 status = -EINVAL;
 387                 goto done;
 388         }
 389
 390         mlog(0, "Returned from journal_init_inode\n");
 391         mlog(0, "j_journal->j_maxlen = %u\n", j_journal->j_maxlen);
 392
 393         *dirty = (le32_to_cpu(di->id1.journal1.ij_flags) &
 394                   OCFS2_JOURNAL_DIRTY_FL);
 395
 396         journal->j_journal = j_journal;
 397         journal->j_inode = inode;
 398         journal->j_bh = bh;
 399
 400         ocfs2_set_journal_params(osb);
 401
 402         journal->j_state = OCFS2_JOURNAL_LOADED;
 403
 404         status = 0;
 405 done:
 406         if (status < 0) {
 407                 if (meta_lock)
 408                         ocfs2_meta_unlock(inode, 1);
 409                 if (bh != NULL)
 410                         brelse(bh);
 411                 if (inode) {
 412                         OCFS2_I(inode)->ip_open_count--;
 413                         iput(inode);
 414                 }
 415         }
 416
 417         mlog_exit(status);
 418         return status;
 419 }
 420
 421 static int ocfs2_journal_toggle_dirty(struct ocfs2_super *osb,
 422                                       int dirty)
 423 {
 424         int status;
 425         unsigned int flags;
 426         struct ocfs2_journal *journal = osb->journal;
 427         struct buffer_head *bh = journal->j_bh;
 428         struct ocfs2_dinode *fe;
 429
 430         mlog_entry_void();
 431
 432         fe = (struct ocfs2_dinode *)bh->b_data;
 433         if (!OCFS2_IS_VALID_DINODE(fe)) {
 434                 /* This is called from startup/shutdown which will
 435                  * handle the errors in a specific manner, so no need
 436                  * to call ocfs2_error() here. */
 437                 mlog(ML_ERROR, "Journal dinode %llu  has invalid "
 438                      "signature: %.*s", (unsigned long long)fe->i_blkno, 7,
 439                      fe->i_signature);
 440                 status = -EIO;
 441                 goto out;
 442         }
 443
 444         flags = le32_to_cpu(fe->id1.journal1.ij_flags);
 445         if (dirty)
 446                 flags |= OCFS2_JOURNAL_DIRTY_FL;
 447         else
 448                 flags &= ~OCFS2_JOURNAL_DIRTY_FL;
 449         fe->id1.journal1.ij_flags = cpu_to_le32(flags);
 450
 451         status = ocfs2_write_block(osb, bh, journal->j_inode);
 452         if (status < 0)
 453                 mlog_errno(status);
 454
 455 out:
 456         mlog_exit(status);
 457         return status;
 458 }
 459
 460 /*
 461  * If the journal has been kmalloc'd it needs to be freed after this
 462  * call.
 463  */
 464 void ocfs2_journal_shutdown(struct ocfs2_super *osb)
 465 {
 466         struct ocfs2_journal *journal = NULL;
 467         int status = 0;
 468         struct inode *inode = NULL;
 469         int num_running_trans = 0;
 470
 471         mlog_entry_void();
 472
 473         BUG_ON(!osb);
 474
 475         journal = osb->journal;
 476         if (!journal)
 477                 goto done;
 478
 479         inode = journal->j_inode;
 480
 481         if (journal->j_state != OCFS2_JOURNAL_LOADED)
 482                 goto done;
 483
 484         /* need to inc inode use count as journal_destroy will iput. */
 485         if (!igrab(inode))
 486                 BUG();
 487
 488         num_running_trans = atomic_read(&(osb->journal->j_num_trans));
 489         if (num_running_trans > 0)
 490                 mlog(0, "Shutting down journal: must wait on %d "
 491                      "running transactions!\n",
 492                      num_running_trans);
 493
 494         /* Do a commit_cache here. It will flush our journal, *and*
 495          * release any locks that are still held.
 496          * set the SHUTDOWN flag and release the trans lock.
 497          * the commit thread will take the trans lock for us below. */
 498         journal->j_state = OCFS2_JOURNAL_IN_SHUTDOWN;
 499
 500         /* The OCFS2_JOURNAL_IN_SHUTDOWN will signal to commit_cache to not
 501          * drop the trans_lock (which we want to hold until we
 502          * completely destroy the journal. */
 503         if (osb->commit_task) {
 504                 /* Wait for the commit thread */
 505                 mlog(0, "Waiting for ocfs2commit to exit....\n");
 506                 kthread_stop(osb->commit_task);
 507                 osb->commit_task = NULL;
 508         }
 509
 510         BUG_ON(atomic_read(&(osb->journal->j_num_trans)) != 0);
 511
 512         if (ocfs2_mount_local(osb)) {
 513                 journal_lock_updates(journal->j_journal);
 514                 status = journal_flush(journal->j_journal);
 515                 journal_unlock_updates(journal->j_journal);
 516                 if (status < 0)
 517                         mlog_errno(status);
 518         }
 519
 520         if (status == 0) {
 521                 /*
 522                  * Do not toggle if flush was unsuccessful otherwise
 523                  * will leave dirty metadata in a "clean" journal
 524                  */
 525                 status = ocfs2_journal_toggle_dirty(osb, 0);
 526                 if (status < 0)
 527                         mlog_errno(status);
 528         }
 529
 530         /* Shutdown the kernel journal system */
 531         journal_destroy(journal->j_journal);
 532
 533         OCFS2_I(inode)->ip_open_count--;
 534
 535         /* unlock our journal */
 536         ocfs2_meta_unlock(inode, 1);
 537
 538         brelse(journal->j_bh);
 539         journal->j_bh = NULL;
 540
 541         journal->j_state = OCFS2_JOURNAL_FREE;
 542
 543 //      up_write(&journal->j_trans_barrier);
 544 done:
 545         if (inode)
 546                 iput(inode);
 547         mlog_exit_void();
 548 }
 549
 550 static void ocfs2_clear_journal_error(struct super_block *sb,
 551                                       journal_t *journal,
 552                                       int slot)
 553 {
 554         int olderr;
 555
 556         olderr = journal_errno(journal);
 557         if (olderr) {
 558                 mlog(ML_ERROR, "File system error %d recorded in "
 559                      "journal %u.\n", olderr, slot);
 560                 mlog(ML_ERROR, "File system on device %s needs checking.\n",
 561                      sb->s_id);
 562
 563                 journal_ack_err(journal);
 564                 journal_clear_err(journal);
 565         }
 566 }
 567
 568 int ocfs2_journal_load(struct ocfs2_journal *journal, int local)
 569 {
 570         int status = 0;
 571         struct ocfs2_super *osb;
 572
 573         mlog_entry_void();
 574
 575         if (!journal)
 576                 BUG();
 577
 578         osb = journal->j_osb;
 579
 580         status = journal_load(journal->j_journal);
 581         if (status < 0) {
 582                 mlog(ML_ERROR, "Failed to load journal!\n");
 583                 goto done;
 584         }
 585
 586         ocfs2_clear_journal_error(osb->sb, journal->j_journal, osb->slot_num);
 587
 588         status = ocfs2_journal_toggle_dirty(osb, 1);
 589         if (status < 0) {
 590                 mlog_errno(status);
 591                 goto done;
 592         }
 593
 594         /* Launch the commit thread */
 595         if (!local) {
 596                 osb->commit_task = kthread_run(ocfs2_commit_thread, osb,
 597                                                "ocfs2cmt");
 598                 if (IS_ERR(osb->commit_task)) {
 599                         status = PTR_ERR(osb->commit_task);
 600                         osb->commit_task = NULL;
 601                         mlog(ML_ERROR, "unable to launch ocfs2commit thread, "
 602                              "error=%d", status);
 603                         goto done;
 604                 }
 605         } else
 606                 osb->commit_task = NULL;
 607
 608 done:
 609         mlog_exit(status);
 610         return status;
 611 }
 612
 613
 614 /* 'full' flag tells us whether we clear out all blocks or if we just
 615  * mark the journal clean */
 616 int ocfs2_journal_wipe(struct ocfs2_journal *journal, int full)
 617 {
 618         int status;
 619
 620         mlog_entry_void();
 621
 622         BUG_ON(!journal);
 623
 624         status = journal_wipe(journal->j_journal, full);
 625         if (status < 0) {
 626                 mlog_errno(status);
 627                 goto bail;
 628         }
 629
 630         status = ocfs2_journal_toggle_dirty(journal->j_osb, 0);
 631         if (status < 0)
 632                 mlog_errno(status);
 633
 634 bail:
 635         mlog_exit(status);
 636         return status;
 637 }
 638
 639 /*
 640  * JBD Might read a cached version of another nodes journal file. We
 641  * don't want this as this file changes often and we get no
 642  * notification on those changes. The only way to be sure that we've
 643  * got the most up to date version of those blocks then is to force
 644  * read them off disk. Just searching through the buffer cache won't
 645  * work as there may be pages backing this file which are still marked
 646  * up to date. We know things can't change on this file underneath us
 647  * as we have the lock by now :)
 648  */
 649 static int ocfs2_force_read_journal(struct inode *inode)
 650 {
 651         int status = 0;
 652         int i, p_blocks;
 653         u64 v_blkno, p_blkno;
 654 #define CONCURRENT_JOURNAL_FILL 32
 655         struct buffer_head *bhs[CONCURRENT_JOURNAL_FILL];
 656
 657         mlog_entry_void();
 658
 659         BUG_ON(inode->i_blocks !=
 660                      ocfs2_align_bytes_to_sectors(i_size_read(inode)));
 661
 662         memset(bhs, 0, sizeof(struct buffer_head *) * CONCURRENT_JOURNAL_FILL);
 663
 664         mlog(0, "Force reading %llu blocks\n",
 665                 (unsigned long long)(inode->i_blocks >>
 666                         (inode->i_sb->s_blocksize_bits - 9)));
 667
 668         v_blkno = 0;
 669         while (v_blkno <
 670                (inode->i_blocks >> (inode->i_sb->s_blocksize_bits - 9))) {
 671
 672                 status = ocfs2_extent_map_get_blocks(inode, v_blkno,
 673                                                      1, &p_blkno,
 674                                                      &p_blocks);
 675                 if (status < 0) {
 676                         mlog_errno(status);
 677                         goto bail;
 678                 }
 679
 680                 if (p_blocks > CONCURRENT_JOURNAL_FILL)
 681                         p_blocks = CONCURRENT_JOURNAL_FILL;
 682
 683                 /* We are reading journal data which should not
 684                  * be put in the uptodate cache */
 685                 status = ocfs2_read_blocks(OCFS2_SB(inode->i_sb),
 686                                            p_blkno, p_blocks, bhs, 0,
 687                                            NULL);
 688                 if (status < 0) {
 689                         mlog_errno(status);
 690                         goto bail;
 691                 }
 692
 693                 for(i = 0; i < p_blocks; i++) {
 694                         brelse(bhs[i]);
 695                         bhs[i] = NULL;
 696                 }
 697
 698                 v_blkno += p_blocks;
 699         }
 700
 701 bail:
 702         for(i = 0; i < CONCURRENT_JOURNAL_FILL; i++)
 703                 if (bhs[i])
 704                         brelse(bhs[i]);
 705         mlog_exit(status);
 706         return status;
 707 }
 708
 709 struct ocfs2_la_recovery_item {
 710         struct list_head        lri_list;
 711         int                     lri_slot;
 712         struct ocfs2_dinode     *lri_la_dinode;
 713         struct ocfs2_dinode     *lri_tl_dinode;
 714 };
 715
 716 /* Does the second half of the recovery process. By this point, the
 717  * node is marked clean and can actually be considered recovered,
 718  * hence it's no longer in the recovery map, but there's still some
 719  * cleanup we can do which shouldn't happen within the recovery thread
 720  * as locking in that context becomes very difficult if we are to take
 721  * recovering nodes into account.
 722  *
 723  * NOTE: This function can and will sleep on recovery of other nodes
 724  * during cluster locking, just like any other ocfs2 process.
 725  */
 726 void ocfs2_complete_recovery(struct work_struct *work)
 727 {
 728         int ret;
 729         struct ocfs2_journal *journal =
 730                 container_of(work, struct ocfs2_journal, j_recovery_work);
 731         struct ocfs2_super *osb = journal->j_osb;
 732         struct ocfs2_dinode *la_dinode, *tl_dinode;
 733         struct ocfs2_la_recovery_item *item;
 734         struct list_head *p, *n;
 735         LIST_HEAD(tmp_la_list);
 736
 737         mlog_entry_void();
 738
 739         mlog(0, "completing recovery from keventd\n");
 740
 741         spin_lock(&journal->j_lock);
 742         list_splice_init(&journal->j_la_cleanups, &tmp_la_list);
 743         spin_unlock(&journal->j_lock);
 744
 745         list_for_each_safe(p, n, &tmp_la_list) {
 746                 item = list_entry(p, struct ocfs2_la_recovery_item, lri_list);
 747                 list_del_init(&item->lri_list);
 748
 749                 mlog(0, "Complete recovery for slot %d\n", item->lri_slot);
 750
 751                 la_dinode = item->lri_la_dinode;
 752                 if (la_dinode) {
 753                         mlog(0, "Clean up local alloc %llu\n",
 754                              (unsigned long long)la_dinode->i_blkno);
 755
 756                         ret = ocfs2_complete_local_alloc_recovery(osb,
 757                                                                   la_dinode);
 758                         if (ret < 0)
 759                                 mlog_errno(ret);
 760
 761                         kfree(la_dinode);
 762                 }
 763
 764                 tl_dinode = item->lri_tl_dinode;
 765                 if (tl_dinode) {
 766                         mlog(0, "Clean up truncate log %llu\n",
 767                              (unsigned long long)tl_dinode->i_blkno);
 768
 769                         ret = ocfs2_complete_truncate_log_recovery(osb,
 770                                                                    tl_dinode);
 771                         if (ret < 0)
 772                                 mlog_errno(ret);
 773
 774                         kfree(tl_dinode);
 775                 }
 776
 777                 ret = ocfs2_recover_orphans(osb, item->lri_slot);
 778                 if (ret < 0)
 779                         mlog_errno(ret);
 780
 781                 kfree(item);
 782         }
 783
 784         mlog(0, "Recovery completion\n");
 785         mlog_exit_void();
 786 }
 787
 788 /* NOTE: This function always eats your references to la_dinode and
 789  * tl_dinode, either manually on error, or by passing them to
 790  * ocfs2_complete_recovery */
 791 static void ocfs2_queue_recovery_completion(struct ocfs2_journal *journal,
 792                                             int slot_num,
 793                                             struct ocfs2_dinode *la_dinode,
 794                                             struct ocfs2_dinode *tl_dinode)
 795 {
 796         struct ocfs2_la_recovery_item *item;
 797
 798         item = kmalloc(sizeof(struct ocfs2_la_recovery_item), GFP_NOFS);
 799         if (!item) {
 800                 /* Though we wish to avoid it, we are in fact safe in
 801                  * skipping local alloc cleanup as fsck.ocfs2 is more
 802                  * than capable of reclaiming unused space. */
 803                 if (la_dinode)
 804                         kfree(la_dinode);
 805
 806                 if (tl_dinode)
 807                         kfree(tl_dinode);
 808
 809                 mlog_errno(-ENOMEM);
 810                 return;
 811         }
 812
 813         INIT_LIST_HEAD(&item->lri_list);
 814         item->lri_la_dinode = la_dinode;
 815         item->lri_slot = slot_num;
 816         item->lri_tl_dinode = tl_dinode;
 817
 818         spin_lock(&journal->j_lock);
 819         list_add_tail(&item->lri_list, &journal->j_la_cleanups);
 820         queue_work(ocfs2_wq, &journal->j_recovery_work);
 821         spin_unlock(&journal->j_lock);
 822 }
 823
 824 /* Called by the mount code to queue recovery the last part of
 825  * recovery for it's own slot. */
 826 void ocfs2_complete_mount_recovery(struct ocfs2_super *osb)
 827 {
 828         struct ocfs2_journal *journal = osb->journal;
 829
 830         if (osb->dirty) {
 831                 /* No need to queue up our truncate_log as regular
 832                  * cleanup will catch that. */
 833                 ocfs2_queue_recovery_completion(journal,
 834                                                 osb->slot_num,
 835                                                 osb->local_alloc_copy,
 836                                                 NULL);
 837                 ocfs2_schedule_truncate_log_flush(osb, 0);
 838
 839                 osb->local_alloc_copy = NULL;
 840                 osb->dirty = 0;
 841         }
 842 }
 843
 844 static int __ocfs2_recovery_thread(void *arg)
 845 {
 846         int status, node_num;
 847         struct ocfs2_super *osb = arg;
 848
 849         mlog_entry_void();
 850
 851         status = ocfs2_wait_on_mount(osb);
 852         if (status < 0) {
 853                 goto bail;
 854         }
 855
 856 restart:
 857         status = ocfs2_super_lock(osb, 1);
 858         if (status < 0) {
 859                 mlog_errno(status);
 860                 goto bail;
 861         }
 862
 863         while(!ocfs2_node_map_is_empty(osb, &osb->recovery_map)) {
 864                 node_num = ocfs2_node_map_first_set_bit(osb,
 865                                                         &osb->recovery_map);
 866                 if (node_num == O2NM_INVALID_NODE_NUM) {
 867                         mlog(0, "Out of nodes to recover.\n");
 868                         break;
 869                 }
 870
 871                 status = ocfs2_recover_node(osb, node_num);
 872                 if (status < 0) {
 873                         mlog(ML_ERROR,
 874                              "Error %d recovering node %d on device (%u,%u)!\n",
 875                              status, node_num,
 876                              MAJOR(osb->sb->s_dev), MINOR(osb->sb->s_dev));
 877                         mlog(ML_ERROR, "Volume requires unmount.\n");
 878                         continue;
 879                 }
 880
 881                 ocfs2_recovery_map_clear(osb, node_num);
 882         }
 883         ocfs2_super_unlock(osb, 1);
 884
 885         /* We always run recovery on our own orphan dir - the dead
 886          * node(s) may have voted "no" on an inode delete earlier. A
 887          * revote is therefore required. */
 888         ocfs2_queue_recovery_completion(osb->journal, osb->slot_num, NULL,
 889                                         NULL);
 890
 891 bail:
 892         mutex_lock(&osb->recovery_lock);
 893         if (!status &&
 894             !ocfs2_node_map_is_empty(osb, &osb->recovery_map)) {
 895                 mutex_unlock(&osb->recovery_lock);
 896                 goto restart;
 897         }
 898
 899         osb->recovery_thread_task = NULL;
 900         mb(); /* sync with ocfs2_recovery_thread_running */
 901         wake_up(&osb->recovery_event);
 902
 903         mutex_unlock(&osb->recovery_lock);
 904
 905         mlog_exit(status);
 906         /* no one is callint kthread_stop() for us so the kthread() api
 907          * requires that we call do_exit().  And it isn't exported, but
 908          * complete_and_exit() seems to be a minimal wrapper around it. */
 909         complete_and_exit(NULL, status);
 910         return status;
 911 }
 912
 913 void ocfs2_recovery_thread(struct ocfs2_super *osb, int node_num)
 914 {
 915         mlog_entry("(node_num=%d, osb->node_num = %d)\n",
 916                    node_num, osb->node_num);
 917
 918         mutex_lock(&osb->recovery_lock);
 919         if (osb->disable_recovery)
 920                 goto out;
 921
 922         /* People waiting on recovery will wait on
 923          * the recovery map to empty. */
 924         if (!ocfs2_recovery_map_set(osb, node_num))
 925                 mlog(0, "node %d already be in recovery.\n", node_num);
 926
 927         mlog(0, "starting recovery thread...\n");
 928
 929         if (osb->recovery_thread_task)
 930                 goto out;
 931
 932         osb->recovery_thread_task =  kthread_run(__ocfs2_recovery_thread, osb,
 933                                                  "ocfs2rec");
 934         if (IS_ERR(osb->recovery_thread_task)) {
 935                 mlog_errno((int)PTR_ERR(osb->recovery_thread_task));
 936                 osb->recovery_thread_task = NULL;
 937         }
 938
 939 out:
 940         mutex_unlock(&osb->recovery_lock);
 941         wake_up(&osb->recovery_event);
 942
 943         mlog_exit_void();
 944 }
 945
 946 /* Does the actual journal replay and marks the journal inode as
 947  * clean. Will only replay if the journal inode is marked dirty. */
 948 static int ocfs2_replay_journal(struct ocfs2_super *osb,
 949                                 int node_num,
 950                                 int slot_num)
 951 {
 952         int status;
 953         int got_lock = 0;
 954         unsigned int flags;
 955         struct inode *inode = NULL;
 956         struct ocfs2_dinode *fe;
 957         journal_t *journal = NULL;
 958         struct buffer_head *bh = NULL;
 959
 960         inode = ocfs2_get_system_file_inode(osb, JOURNAL_SYSTEM_INODE,
 961                                             slot_num);
 962         if (inode == NULL) {
 963                 status = -EACCES;
 964                 mlog_errno(status);
 965                 goto done;
 966         }
 967         if (is_bad_inode(inode)) {
 968                 status = -EACCES;
 969                 iput(inode);
 970                 inode = NULL;
 971                 mlog_errno(status);
 972                 goto done;
 973         }
 974         SET_INODE_JOURNAL(inode);
 975
 976         status = ocfs2_meta_lock_full(inode, &bh, 1, OCFS2_META_LOCK_RECOVERY);
 977         if (status < 0) {
 978                 mlog(0, "status returned from ocfs2_meta_lock=%d\n", status);
 979                 if (status != -ERESTARTSYS)
 980                         mlog(ML_ERROR, "Could not lock journal!\n");
 981                 goto done;
 982         }
 983         got_lock = 1;
 984
 985         fe = (struct ocfs2_dinode *) bh->b_data;
 986
 987         flags = le32_to_cpu(fe->id1.journal1.ij_flags);
 988
 989         if (!(flags & OCFS2_JOURNAL_DIRTY_FL)) {
 990                 mlog(0, "No recovery required for node %d\n", node_num);
 991                 goto done;
 992         }
 993
 994         mlog(ML_NOTICE, "Recovering node %d from slot %d on device (%u,%u)\n",
 995              node_num, slot_num,
 996              MAJOR(osb->sb->s_dev), MINOR(osb->sb->s_dev));
 997
 998         OCFS2_I(inode)->ip_clusters = le32_to_cpu(fe->i_clusters);
 999
1000         status = ocfs2_force_read_journal(inode);
1001         if (status < 0) {
1002                 mlog_errno(status);
1003                 goto done;
1004         }
1005
1006         mlog(0, "calling journal_init_inode\n");
1007         journal = journal_init_inode(inode);
1008         if (journal == NULL) {
1009                 mlog(ML_ERROR, "Linux journal layer error\n");
1010                 status = -EIO;
1011                 goto done;
1012         }
1013
1014         status = journal_load(journal);
1015         if (status < 0) {
1016                 mlog_errno(status);
1017                 if (!igrab(inode))
1018                         BUG();
1019                 journal_destroy(journal);
1020                 goto done;
1021         }
1022
1023         ocfs2_clear_journal_error(osb->sb, journal, slot_num);
1024
1025         /* wipe the journal */
1026         mlog(0, "flushing the journal.\n");
1027         journal_lock_updates(journal);
1028         status = journal_flush(journal);
1029         journal_unlock_updates(journal);
1030         if (status < 0)
1031                 mlog_errno(status);
1032
1033         /* This will mark the node clean */
1034         flags = le32_to_cpu(fe->id1.journal1.ij_flags);
1035         flags &= ~OCFS2_JOURNAL_DIRTY_FL;
1036         fe->id1.journal1.ij_flags = cpu_to_le32(flags);
1037
1038         status = ocfs2_write_block(osb, bh, inode);
1039         if (status < 0)
1040                 mlog_errno(status);
1041
1042         if (!igrab(inode))
1043                 BUG();
1044
1045         journal_destroy(journal);
1046
1047 done:
1048         /* drop the lock on this nodes journal */
1049         if (got_lock)
1050                 ocfs2_meta_unlock(inode, 1);
1051
1052         if (inode)
1053                 iput(inode);
1054
1055         if (bh)
1056                 brelse(bh);
1057
1058         mlog_exit(status);
1059         return status;
1060 }
1061
1062 /*
1063  * Do the most important parts of node recovery:
1064  *  - Replay it's journal
1065  *  - Stamp a clean local allocator file
1066  *  - Stamp a clean truncate log
1067  *  - Mark the node clean
1068  *
1069  * If this function completes without error, a node in OCFS2 can be
1070  * said to have been safely recovered. As a result, failure during the
1071  * second part of a nodes recovery process (local alloc recovery) is
1072  * far less concerning.
1073  */
1074 static int ocfs2_recover_node(struct ocfs2_super *osb,
1075                               int node_num)
1076 {
1077         int status = 0;
1078         int slot_num;
1079         struct ocfs2_slot_info *si = osb->slot_info;
1080         struct ocfs2_dinode *la_copy = NULL;
1081         struct ocfs2_dinode *tl_copy = NULL;
1082
1083         mlog_entry("(node_num=%d, osb->node_num = %d)\n",
1084                    node_num, osb->node_num);
1085
1086         mlog(0, "checking node %d\n", node_num);
1087
1088         /* Should not ever be called to recover ourselves -- in that
1089          * case we should've called ocfs2_journal_load instead. */
1090         BUG_ON(osb->node_num == node_num);
1091
1092         slot_num = ocfs2_node_num_to_slot(si, node_num);
1093         if (slot_num == OCFS2_INVALID_SLOT) {
1094                 status = 0;
1095                 mlog(0, "no slot for this node, so no recovery required.\n");
1096                 goto done;
1097         }
1098
1099         mlog(0, "node %d was using slot %d\n", node_num, slot_num);
1100
1101         status = ocfs2_replay_journal(osb, node_num, slot_num);
1102         if (status < 0) {
1103                 mlog_errno(status);
1104                 goto done;
1105         }
1106
1107         /* Stamp a clean local alloc file AFTER recovering the journal... */
1108         status = ocfs2_begin_local_alloc_recovery(osb, slot_num, &la_copy);
1109         if (status < 0) {
1110                 mlog_errno(status);
1111                 goto done;
1112         }
1113
1114         /* An error from begin_truncate_log_recovery is not
1115          * serious enough to warrant halting the rest of
1116          * recovery. */
1117         status = ocfs2_begin_truncate_log_recovery(osb, slot_num, &tl_copy);
1118         if (status < 0)
1119                 mlog_errno(status);
1120
1121         /* Likewise, this would be a strange but ultimately not so
1122          * harmful place to get an error... */
1123         ocfs2_clear_slot(si, slot_num);
1124         status = ocfs2_update_disk_slots(osb, si);
1125         if (status < 0)
1126                 mlog_errno(status);
1127
1128         /* This will kfree the memory pointed to by la_copy and tl_copy */
1129         ocfs2_queue_recovery_completion(osb->journal, slot_num, la_copy,
1130                                         tl_copy);
1131
1132         status = 0;
1133 done:
1134
1135         mlog_exit(status);
1136         return status;
1137 }
1138
1139 /* Test node liveness by trylocking his journal. If we get the lock,
1140  * we drop it here. Return 0 if we got the lock, -EAGAIN if node is
1141  * still alive (we couldn't get the lock) and < 0 on error. */
1142 static int ocfs2_trylock_journal(struct ocfs2_super *osb,
1143                                  int slot_num)
1144 {
1145         int status, flags;
1146         struct inode *inode = NULL;
1147
1148         inode = ocfs2_get_system_file_inode(osb, JOURNAL_SYSTEM_INODE,
1149                                             slot_num);
1150         if (inode == NULL) {
1151                 mlog(ML_ERROR, "access error\n");
1152                 status = -EACCES;
1153                 goto bail;
1154         }
1155         if (is_bad_inode(inode)) {
1156                 mlog(ML_ERROR, "access error (bad inode)\n");
1157                 iput(inode);
1158                 inode = NULL;
1159                 status = -EACCES;
1160                 goto bail;
1161         }
1162         SET_INODE_JOURNAL(inode);
1163
1164         flags = OCFS2_META_LOCK_RECOVERY | OCFS2_META_LOCK_NOQUEUE;
1165         status = ocfs2_meta_lock_full(inode, NULL, 1, flags);
1166         if (status < 0) {
1167                 if (status != -EAGAIN)
1168                         mlog_errno(status);
1169                 goto bail;
1170         }
1171
1172         ocfs2_meta_unlock(inode, 1);
1173 bail:
1174         if (inode)
1175                 iput(inode);
1176
1177         return status;
1178 }
1179
1180 /* Call this underneath ocfs2_super_lock. It also assumes that the
1181  * slot info struct has been updated from disk. */
1182 int ocfs2_mark_dead_nodes(struct ocfs2_super *osb)
1183 {
1184         int status, i, node_num;
1185         struct ocfs2_slot_info *si = osb->slot_info;
1186
1187         /* This is called with the super block cluster lock, so we
1188          * know that the slot map can't change underneath us. */
1189
1190         spin_lock(&si->si_lock);
1191         for(i = 0; i < si->si_num_slots; i++) {
1192                 if (i == osb->slot_num)
1193                         continue;
1194                 if (ocfs2_is_empty_slot(si, i))
1195                         continue;
1196
1197                 node_num = si->si_global_node_nums[i];
1198                 if (ocfs2_node_map_test_bit(osb, &osb->recovery_map, node_num))
1199                         continue;
1200                 spin_unlock(&si->si_lock);
1201
1202                 /* Ok, we have a slot occupied by another node which
1203                  * is not in the recovery map. We trylock his journal
1204                  * file here to test if he's alive. */
1205                 status = ocfs2_trylock_journal(osb, i);
1206                 if (!status) {
1207                         /* Since we're called from mount, we know that
1208                          * the recovery thread can't race us on
1209                          * setting / checking the recovery bits. */
1210                         ocfs2_recovery_thread(osb, node_num);
1211                 } else if ((status < 0) && (status != -EAGAIN)) {
1212                         mlog_errno(status);
1213                         goto bail;
1214                 }
1215
1216                 spin_lock(&si->si_lock);
1217         }
1218         spin_unlock(&si->si_lock);
1219
1220         status = 0;
1221 bail:
1222         mlog_exit(status);
1223         return status;
1224 }
1225
1226 static int ocfs2_queue_orphans(struct ocfs2_super *osb,
1227                                int slot,
1228                                struct inode **head)
1229 {
1230         int status;
1231         struct inode *orphan_dir_inode = NULL;
1232         struct inode *iter;
1233         unsigned long offset, blk, local;
1234         struct buffer_head *bh = NULL;
1235         struct ocfs2_dir_entry *de;
1236         struct super_block *sb = osb->sb;
1237
1238         orphan_dir_inode = ocfs2_get_system_file_inode(osb,
1239                                                        ORPHAN_DIR_SYSTEM_INODE,
1240                                                        slot);
1241         if  (!orphan_dir_inode) {
1242                 status = -ENOENT;
1243                 mlog_errno(status);
1244                 return status;
1245         }
1246
1247         mutex_lock(&orphan_dir_inode->i_mutex);
1248         status = ocfs2_meta_lock(orphan_dir_inode, NULL, 0);
1249         if (status < 0) {
1250                 mlog_errno(status);
1251                 goto out;
1252         }
1253
1254         offset = 0;
1255         iter = NULL;
1256         while(offset < i_size_read(orphan_dir_inode)) {
1257                 blk = offset >> sb->s_blocksize_bits;
1258
1259                 bh = ocfs2_bread(orphan_dir_inode, blk, &status, 0);
1260                 if (!bh)
1261                         status = -EINVAL;
1262                 if (status < 0) {
1263                         if (bh)
1264                                 brelse(bh);
1265                         mlog_errno(status);
1266                         goto out_unlock;
1267                 }
1268
1269                 local = 0;
1270                 while(offset < i_size_read(orphan_dir_inode)
1271                       && local < sb->s_blocksize) {
1272                         de = (struct ocfs2_dir_entry *) (bh->b_data + local);
1273
1274                         if (!ocfs2_check_dir_entry(orphan_dir_inode,
1275                                                   de, bh, local)) {
1276                                 status = -EINVAL;
1277                                 mlog_errno(status);
1278                                 brelse(bh);
1279                                 goto out_unlock;
1280                         }
1281
1282                         local += le16_to_cpu(de->rec_len);
1283                         offset += le16_to_cpu(de->rec_len);
1284
1285                         /* I guess we silently fail on no inode? */
1286                         if (!le64_to_cpu(de->inode))
1287                                 continue;
1288                         if (de->file_type > OCFS2_FT_MAX) {
1289                                 mlog(ML_ERROR,
1290                                      "block %llu contains invalid de: "
1291                                      "inode = %llu, rec_len = %u, "
1292                                      "name_len = %u, file_type = %u, "
1293                                      "name='%.*s'\n",
1294                                      (unsigned long long)bh->b_blocknr,
1295                                      (unsigned long long)le64_to_cpu(de->inode),
1296                                      le16_to_cpu(de->rec_len),
1297                                      de->name_len,
1298                                      de->file_type,
1299                                      de->name_len,
1300                                      de->name);
1301                                 continue;
1302                         }
1303                         if (de->name_len == 1 && !strncmp(".", de->name, 1))
1304                                 continue;
1305                         if (de->name_len == 2 && !strncmp("..", de->name, 2))
1306                                 continue;
1307
1308                         iter = ocfs2_iget(osb, le64_to_cpu(de->inode),
1309                                           OCFS2_FI_FLAG_NOLOCK);
1310                         if (IS_ERR(iter))
1311                                 continue;
1312
1313                         mlog(0, "queue orphan %llu\n",
1314                              (unsigned long long)OCFS2_I(iter)->ip_blkno);
1315                         /* No locking is required for the next_orphan
1316                          * queue as there is only ever a single
1317                          * process doing orphan recovery. */
1318                         OCFS2_I(iter)->ip_next_orphan = *head;
1319                         *head = iter;
1320                 }
1321                 brelse(bh);
1322         }
1323
1324 out_unlock:
1325         ocfs2_meta_unlock(orphan_dir_inode, 0);
1326 out:
1327         mutex_unlock(&orphan_dir_inode->i_mutex);
1328         iput(orphan_dir_inode);
1329         return status;
1330 }
1331
1332 static int ocfs2_orphan_recovery_can_continue(struct ocfs2_super *osb,
1333                                               int slot)
1334 {
1335         int ret;
1336
1337         spin_lock(&osb->osb_lock);
1338         ret = !osb->osb_orphan_wipes[slot];
1339         spin_unlock(&osb->osb_lock);
1340         return ret;
1341 }
1342
1343 static void ocfs2_mark_recovering_orphan_dir(struct ocfs2_super *osb,
1344                                              int slot)
1345 {
1346         spin_lock(&osb->osb_lock);
1347         /* Mark ourselves such that new processes in delete_inode()
1348          * know to quit early. */
1349         ocfs2_node_map_set_bit(osb, &osb->osb_recovering_orphan_dirs, slot);
1350         while (osb->osb_orphan_wipes[slot]) {
1351                 /* If any processes are already in the middle of an
1352                  * orphan wipe on this dir, then we need to wait for
1353                  * them. */
1354                 spin_unlock(&osb->osb_lock);
1355                 wait_event_interruptible(osb->osb_wipe_event,
1356                                          ocfs2_orphan_recovery_can_continue(osb, slot));
1357                 spin_lock(&osb->osb_lock);
1358         }
1359         spin_unlock(&osb->osb_lock);
1360 }
1361
1362 static void ocfs2_clear_recovering_orphan_dir(struct ocfs2_super *osb,
1363                                               int slot)
1364 {
1365         ocfs2_node_map_clear_bit(osb, &osb->osb_recovering_orphan_dirs, slot);
1366 }
1367
1368 /*
1369  * Orphan recovery. Each mounted node has it's own orphan dir which we
1370  * must run during recovery. Our strategy here is to build a list of
1371  * the inodes in the orphan dir and iget/iput them. The VFS does
1372  * (most) of the rest of the work.
1373  *
1374  * Orphan recovery can happen at any time, not just mount so we have a
1375  * couple of extra considerations.
1376  *
1377  * - We grab as many inodes as we can under the orphan dir lock -
1378  *   doing iget() outside the orphan dir risks getting a reference on
1379  *   an invalid inode.
1380  * - We must be sure not to deadlock with other processes on the
1381  *   system wanting to run delete_inode(). This can happen when they go
1382  *   to lock the orphan dir and the orphan recovery process attempts to
1383  *   iget() inside the orphan dir lock. This can be avoided by
1384  *   advertising our state to ocfs2_delete_inode().
1385  */
1386 static int ocfs2_recover_orphans(struct ocfs2_super *osb,
1387                                  int slot)
1388 {
1389         int ret = 0;
1390         struct inode *inode = NULL;
1391         struct inode *iter;
1392         struct ocfs2_inode_info *oi;
1393
1394         mlog(0, "Recover inodes from orphan dir in slot %d\n", slot);
1395
1396         ocfs2_mark_recovering_orphan_dir(osb, slot);
1397         ret = ocfs2_queue_orphans(osb, slot, &inode);
1398         ocfs2_clear_recovering_orphan_dir(osb, slot);
1399
1400         /* Error here should be noted, but we want to continue with as
1401          * many queued inodes as we've got. */
1402         if (ret)
1403                 mlog_errno(ret);
1404
1405         while (inode) {
1406                 oi = OCFS2_I(inode);
1407                 mlog(0, "iput orphan %llu\n", (unsigned long long)oi->ip_blkno);
1408
1409                 iter = oi->ip_next_orphan;
1410
1411                 spin_lock(&oi->ip_lock);
1412                 /* Delete voting may have set these on the assumption
1413                  * that the other node would wipe them successfully.
1414                  * If they are still in the node's orphan dir, we need
1415                  * to reset that state. */
1416                 oi->ip_flags &= ~(OCFS2_INODE_DELETED|OCFS2_INODE_SKIP_DELETE);
1417
1418                 /* Set the proper information to get us going into
1419                  * ocfs2_delete_inode. */
1420                 oi->ip_flags |= OCFS2_INODE_MAYBE_ORPHANED;
1421                 oi->ip_orphaned_slot = slot;
1422                 spin_unlock(&oi->ip_lock);
1423
1424                 iput(inode);
1425
1426                 inode = iter;
1427         }
1428
1429         return ret;
1430 }
1431
1432 static int ocfs2_wait_on_mount(struct ocfs2_super *osb)
1433 {
1434         /* This check is good because ocfs2 will wait on our recovery
1435          * thread before changing it to something other than MOUNTED
1436          * or DISABLED. */
1437         wait_event(osb->osb_mount_event,
1438                    atomic_read(&osb->vol_state) == VOLUME_MOUNTED ||
1439                    atomic_read(&osb->vol_state) == VOLUME_DISABLED);
1440
1441         /* If there's an error on mount, then we may never get to the
1442          * MOUNTED flag, but this is set right before
1443          * dismount_volume() so we can trust it. */
1444         if (atomic_read(&osb->vol_state) == VOLUME_DISABLED) {
1445                 mlog(0, "mount error, exiting!\n");
1446                 return -EBUSY;
1447         }
1448
1449         return 0;
1450 }
1451
1452 static int ocfs2_commit_thread(void *arg)
1453 {
1454         int status;
1455         struct ocfs2_super *osb = arg;
1456         struct ocfs2_journal *journal = osb->journal;
1457
1458         /* we can trust j_num_trans here because _should_stop() is only set in
1459          * shutdown and nobody other than ourselves should be able to start
1460          * transactions.  committing on shutdown might take a few iterations
1461          * as final transactions put deleted inodes on the list */
1462         while (!(kthread_should_stop() &&
1463                  atomic_read(&journal->j_num_trans) == 0)) {
1464
1465                 wait_event_interruptible(osb->checkpoint_event,
1466                                          atomic_read(&journal->j_num_trans)
1467                                          || kthread_should_stop());
1468
1469                 status = ocfs2_commit_cache(osb);
1470                 if (status < 0)
1471                         mlog_errno(status);
1472
1473                 if (kthread_should_stop() && atomic_read(&journal->j_num_trans)){
1474                         mlog(ML_KTHREAD,
1475                              "commit_thread: %u transactions pending on "
1476                              "shutdown\n",
1477                              atomic_read(&journal->j_num_trans));
1478                 }
1479         }
1480
1481         return 0;
1482 }
1483
1484 /* Look for a dirty journal without taking any cluster locks. Used for
1485  * hard readonly access to determine whether the file system journals
1486  * require recovery. */
1487 int ocfs2_check_journals_nolocks(struct ocfs2_super *osb)
1488 {
1489         int ret = 0;
1490         unsigned int slot;
1491         struct buffer_head *di_bh;
1492         struct ocfs2_dinode *di;
1493         struct inode *journal = NULL;
1494
1495         for(slot = 0; slot < osb->max_slots; slot++) {
1496                 journal = ocfs2_get_system_file_inode(osb,
1497                                                       JOURNAL_SYSTEM_INODE,
1498                                                       slot);
1499                 if (!journal || is_bad_inode(journal)) {
1500                         ret = -EACCES;
1501                         mlog_errno(ret);
1502                         goto out;
1503                 }
1504
1505                 di_bh = NULL;
1506                 ret = ocfs2_read_block(osb, OCFS2_I(journal)->ip_blkno, &di_bh,
1507                                        0, journal);
1508                 if (ret < 0) {
1509                         mlog_errno(ret);
1510                         goto out;
1511                 }
1512
1513                 di = (struct ocfs2_dinode *) di_bh->b_data;
1514
1515                 if (le32_to_cpu(di->id1.journal1.ij_flags) &
1516                     OCFS2_JOURNAL_DIRTY_FL)
1517                         ret = -EROFS;
1518
1519                 brelse(di_bh);
1520                 if (ret)
1521                         break;
1522         }
1523
1524 out:
1525         if (journal)
1526                 iput(journal);
1527
1528         return ret;
1529 }