RAIDアレイ(jbd2)の書き込みボリュームが常に低くなっています。この問題の原因は何ですか?

RAIDアレイ(jbd2)の書き込みボリュームが常に低くなっています。この問題の原因は何ですか?

実際には2つの非常に似たRAIDアレイがありますが、1つは継続的に記録されている(jbd2によるものと思われる)、もう1つはそうではありません。以下は配列です。

md9 : active raid5 sdl4[4] sdk4[2] sdh4[1] sdb4[0]
  11626217472 blocks super 1.2 level 5, 512k chunk, algorithm 2 [4/4] [UUUU]
  bitmap: 2/29 pages [8KB], 65536KB chunk
   
md8 : active raid5 sdf3[2] sdc3[1] sda3[0] sdi3[3]
  11626217472 blocks super 1.2 level 5, 512k chunk, algorithm 2 [4/4] [UUUU]
  bitmap: 0/29 pages [0KB], 65536KB chunk

ご覧のとおり、「検査」や特別なことは発生しません。どちらのアレイも4×4TBです。

今まではそんなに良くなった。

これら2つの配列(/dev/md8と/dev/md9)にはデータのみが含まれ、ルートファイルシステムは含まれません。実際、それらはどんな用途にもほとんど使用されません。どちらも単一のext4パーティションがマウントされており、noatime「bcache」が用意されています(まだキャッシュボリュームはありません)。

df -h:

/dev/bcache0     11T  7.3T  3.6T  67% /mnt/raid5a
/dev/bcache1     11T  7.4T  3.5T  68% /mnt/raid5b

cat /proc/mounts:

/dev/bcache0 /mnt/raid5a ext4 rw,nosuid,nodev,noexec,noatime,data=ordered 0 0
/dev/bcache1 /mnt/raid5b ext4 rw,nosuid,nodev,noexec,noatime,data=ordered 0 0

ただし、継続的な書き込み(およびバックアップボリューム)iostatについての報告はありますが、同じアレイで同様のことは発生しません。/dev/bcache1/dev/md9/dev/md8

Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn
md8               0.00         0.00         0.00          0          0
bcache0           0.00         0.00         0.00          0          0
md9               1.50         0.00        18.00          0         36
bcache1           1.00         0.00        12.00          0         24

md8               0.00         0.00         0.00          0          0
bcache0           0.00         0.00         0.00          0          0
md9               2.50         0.00        18.00          0         36
bcache1           2.50         0.00        18.00          0         36

これは数時間続いた。

私が試したこと:

  1. gvfsに関連するすべてを殺しました。 ps ax |grep gvfsこれで結果はゼロです。引き続き書くことが起きています。
  2. lsof何が起こっているのかを確認してください。何も表示されません。
  3. 使用されるiotop[jbd2/bcache1-8]通常、上部にプロセスという名前が表示されます。他のアレイにも同様の状況はありません。
  4. 頑張った削除容量。これはうまく機能し、iostatはもはやアクセスできないと報告します(誰も使用していないようです)。ただし、再インストールすると、これらの低容量書き込みが再トリガされます。まもなく...

はい非常に私はこの配列に何を書くことができるのか疑問に思います。言ったように、データだけが入っていて、実際にはフォルダでlost+found空です。

答え1

すべての質問を入力すると、犯人を見つけたと思います...

ボリュームが1週間以上維持されているにもかかわらず(他のアレイの場合は2週間)、他のプロセスext4lazyinitは次のとおりです。まだinodeの初期化で忙しいです(mkfs.ext4が通常大きなボリュームに対して生成するクレイジーな4組ではなく、非常に通常の400万個に制限しました)。

df -h -i:

Filesystem     Inodes IUsed IFree IUse% Mounted on
/dev/bcache1     4.1M  2.1K  4.1M    1% /mnt/raid5b

againを使用してボリュームを再マウントすると、よりinit_itable=0高いiostatボリュームを除いて同じ書き込みが表示されます。

md8               0.00         0.00         0.00          0          0
bcache0           0.00         0.00         0.00          0          0
md9             101.50         0.00       584.00          0       1168
bcache1         101.50         0.00       584.00          0       1168

...これは実際にまだinodeを初期化していることを確認しているようです。

関連情報