mdadm-raid5 再組み立て

Question 1

さて、今襲撃に入ることができるようです。少なくとも最初に確認したファイルは大丈夫です。これが私たちがしたことです：

これ襲撃回復記事kernel.org wikiでは、問題に対する2つの可能な解決策を提案しています。

使用--assemble --force（derobertも言及します）
記事は次のように言います。

[...] イベント数が 50 個未満に差がある場合、ドライブの情報はまだ正常である可能性があります。 [...] イベントの数がほとんど一致しているが正確でない場合は、「mdadm --assemble --force /dev/mdX」を使用して、mdadm がアレイをアセンブルするように強制します [...]。ドライブのイベント数が[...]から大幅に超えている場合は、ドライブ[...]をアセンブリに含めないでください。

この例では、ドライブsdeのイベント差分は9です。したがって、--force成功する可能性が高いです。ただし、--addコマンドを実行した後、イベント数が0に低下し、ドライブがスペアとしてマークされました。

だから私たちはそれを使用するのをやめることをお勧めします--force。
配列の再作成
このソリューションは、誤ってデータが失われる可能性があるため、危険であると明示的に示されます。しかし、これが私たちの唯一の選択肢のようです。

アイデアは、古いraidと同じ構成で既存のraidデバイスに新しいraidを作成し（つまり、デバイスのスーパーブロックを上書きする）、mdadmにそのraidがすでに存在し、クリーンであると仮定する必要があることを明示的に通知することです。

イベント数の差が9に過ぎなかったため、唯一の問題はスーパーブロックを失ったということでした。したがって、sde新しいスーパーブロックを作成すると、データにアクセスするための良い機会がありました。 :-)

私たちのソリューション

注：この回避策は当社の問題に固有のものであり、お客様の設定には適用されない場合があります。タスクの完了方法を理解するには、次のメモを作成する必要があります。しかし、状況に最も適したものが何であるかを調べる必要があります。

サポート
私たちはスーパーブロックを失いました。そのため、今回はsd[acdefghij]ddを使用してRAIDを処理する前に、各RAIDデバイス（）の最初と最後のGBを保存しました。各攻撃台デバイスに対してこれを行います。

# save the first gigabyte of sda
dd if=/dev/sda of=bak_sda_start bs=4096 count=262144

# determine the size of the device
fdisk -l /dev/sda
# In this case the size was 4000787030016 byte.

# To get the last gigabyte we need to skip everything except the last gigabyte.
# So we need to skip: 4000787030016 byte - 1073741824 byte = 3999713288000 byte
# Since we read blocks auf 4096 byte we need to skip 3999713288000/4096=976492502 blocks.
dd if=/dev/sda of=bak_sda_end bs=4096 skip=976492502

情報を収集する
レイドを再生成するときは、前のレイドと同じ構成を使用することが重要です。これは、異なる mdadm バージョンを使用して別のコンピュータでアレイを再作成する場合に特に重要です。この場合、mdadmのデフォルト値が異なる場合があり、既存のraidに合わないスーパーブロックが生成されることがあります（wikiの記事を参照）。

私たちの場合は、同じシステム（したがって同じmdadmバージョン）を使用してアレイを再作成します。ただし、アレイは最初にサードパーティのツールによって作成されます。したがって、ここではデフォルト値に依存したくなく、既存の攻撃台に関するいくつかの情報を収集する必要があります。

出力では、mdadm --examine /dev/sd[acdefghij]raidに関する次の情報を取得します（注：sdbはオペレーティングシステムを含むSSDであり、raidの一部ではありません）。

     Raid Level : raid5
   Raid Devices : 9
  Used Dev Size : 7814034432 (3726.02 GiB 4000.79 GB)
    Data Offset : 2048 sectors
   Super Offset : 8 sectors
         Layout : left-symmetric
     Chunk Size : 512K
   Device Role : Active device 0

Used Dev Size512バイトブロック単位で価格が設定されます。以下を確認できます。
7814034432*512/1000000000 ~= 4000.79
ただし、mdadmにはキビバイト単位のサイズが必要です。7814034432*512/1024 = 3907017216

Device Role新しいレードでは、各デバイスが以前と同じ役割を果たす必要があることが重要です。私たちの例では：

device  role
------  ----
sda     0
sdc     1
sdd     2
sde     3
sdf     4
sdg     5
sdh     6
sdi     spare
sdj     8

注：再起動後にドライブ文字（および順序）が変わる可能性があります！

次のステップにはレイアウトとブロックサイズも必要です。

攻撃隊を再現する
これで、最後のステップの情報を使用して配列を再作成できます。

mdadm --create --assume-clean --level=5 --raid-devices=9 --size=3907017216 \
    --chunk=512 --layout=left-symmetric /dev/md127 /dev/sda /dev/sdc /dev/sdd \
    /dev/sde /dev/sdf /dev/sdg /dev/sdh missing /dev/sdj

装置を正しい順序で通過することは非常に重要です！また、イベント数が少なすぎて追加
しませんでした。sdiだから7番目のレイドスロットをmissing。したがって、raid5には9つのデバイスのうち8つが含まれており、劣化モードで組み立てられます。そしてスペアが足りないため、自動的に再構築が始まりません。

--examine次に、新しいスーパーブロックが古いスーパーブロックに合うことを確認するために使用します。実際に :-) ファイルシステムをマウントしてデータを読み取ることができました。次のステップは、データをバックアップして再度追加してsdi再構築を開始することです。

Answer

さて、今襲撃に入ることができるようです。少なくとも最初に確認したファイルは大丈夫です。これが私たちがしたことです：

これ襲撃回復記事kernel.org wikiでは、問題に対する2つの可能な解決策を提案しています。

使用--assemble --force（derobertも言及します）
記事は次のように言います。

[...] イベント数が 50 個未満に差がある場合、ドライブの情報はまだ正常である可能性があります。 [...] イベントの数がほとんど一致しているが正確でない場合は、「mdadm --assemble --force /dev/mdX」を使用して、mdadm がアレイをアセンブルするように強制します [...]。ドライブのイベント数が[...]から大幅に超えている場合は、ドライブ[...]をアセンブリに含めないでください。

この例では、ドライブsdeのイベント差分は9です。したがって、--force成功する可能性が高いです。ただし、--addコマンドを実行した後、イベント数が0に低下し、ドライブがスペアとしてマークされました。

だから私たちはそれを使用するのをやめることをお勧めします--force。
配列の再作成
このソリューションは、誤ってデータが失われる可能性があるため、危険であると明示的に示されます。しかし、これが私たちの唯一の選択肢のようです。

アイデアは、古いraidと同じ構成で既存のraidデバイスに新しいraidを作成し（つまり、デバイスのスーパーブロックを上書きする）、mdadmにそのraidがすでに存在し、クリーンであると仮定する必要があることを明示的に通知することです。

イベント数の差が9に過ぎなかったため、唯一の問題はスーパーブロックを失ったということでした。したがって、sde新しいスーパーブロックを作成すると、データにアクセスするための良い機会がありました。 :-)

私たちのソリューション

注：この回避策は当社の問題に固有のものであり、お客様の設定には適用されない場合があります。タスクの完了方法を理解するには、次のメモを作成する必要があります。しかし、状況に最も適したものが何であるかを調べる必要があります。

サポート
私たちはスーパーブロックを失いました。そのため、今回はsd[acdefghij]ddを使用してRAIDを処理する前に、各RAIDデバイス（）の最初と最後のGBを保存しました。各攻撃台デバイスに対してこれを行います。

# save the first gigabyte of sda
dd if=/dev/sda of=bak_sda_start bs=4096 count=262144

# determine the size of the device
fdisk -l /dev/sda
# In this case the size was 4000787030016 byte.

# To get the last gigabyte we need to skip everything except the last gigabyte.
# So we need to skip: 4000787030016 byte - 1073741824 byte = 3999713288000 byte
# Since we read blocks auf 4096 byte we need to skip 3999713288000/4096=976492502 blocks.
dd if=/dev/sda of=bak_sda_end bs=4096 skip=976492502

情報を収集する
レイドを再生成するときは、前のレイドと同じ構成を使用することが重要です。これは、異なる mdadm バージョンを使用して別のコンピュータでアレイを再作成する場合に特に重要です。この場合、mdadmのデフォルト値が異なる場合があり、既存のraidに合わないスーパーブロックが生成されることがあります（wikiの記事を参照）。

私たちの場合は、同じシステム（したがって同じmdadmバージョン）を使用してアレイを再作成します。ただし、アレイは最初にサードパーティのツールによって作成されます。したがって、ここではデフォルト値に依存したくなく、既存の攻撃台に関するいくつかの情報を収集する必要があります。

出力では、mdadm --examine /dev/sd[acdefghij]raidに関する次の情報を取得します（注：sdbはオペレーティングシステムを含むSSDであり、raidの一部ではありません）。

     Raid Level : raid5
   Raid Devices : 9
  Used Dev Size : 7814034432 (3726.02 GiB 4000.79 GB)
    Data Offset : 2048 sectors
   Super Offset : 8 sectors
         Layout : left-symmetric
     Chunk Size : 512K
   Device Role : Active device 0

Used Dev Size512バイトブロック単位で価格が設定されます。以下を確認できます。
7814034432*512/1000000000 ~= 4000.79
ただし、mdadmにはキビバイト単位のサイズが必要です。7814034432*512/1024 = 3907017216

Device Role新しいレードでは、各デバイスが以前と同じ役割を果たす必要があることが重要です。私たちの例では：

device  role
------  ----
sda     0
sdc     1
sdd     2
sde     3
sdf     4
sdg     5
sdh     6
sdi     spare
sdj     8

注：再起動後にドライブ文字（および順序）が変わる可能性があります！

次のステップにはレイアウトとブロックサイズも必要です。

攻撃隊を再現する
これで、最後のステップの情報を使用して配列を再作成できます。

mdadm --create --assume-clean --level=5 --raid-devices=9 --size=3907017216 \
    --chunk=512 --layout=left-symmetric /dev/md127 /dev/sda /dev/sdc /dev/sdd \
    /dev/sde /dev/sdf /dev/sdg /dev/sdh missing /dev/sdj

装置を正しい順序で通過することは非常に重要です！また、イベント数が少なすぎて追加
しませんでした。sdiだから7番目のレイドスロットをmissing。したがって、raid5には9つのデバイスのうち8つが含まれており、劣化モードで組み立てられます。そしてスペアが足りないため、自動的に再構築が始まりません。

--examine次に、新しいスーパーブロックが古いスーパーブロックに合うことを確認するために使用します。実際に :-) ファイルシステムをマウントしてデータを読み取ることができました。次のステップは、データをバックアップして再度追加してsdi再構築を開始することです。

Question 2

mdadm --forceこの問題は解決する必要があります。同期しているふりをしながら少しデータが破損する可能性があります。次のように使用してください。

mdadm --stop /dev/md127（現在実行中のプログラムを最初に停止する必要があります）
mdadm -v --assemble --run --force /dev/md127 /dev/sd[a-hl-z]。鍵はここから出ることです。/dev/sdiなぜなら知るディスクが最新の状態です。注：すべてのディスクがアレイに属していない場合は、シェルワイルドカードを使用するよりも実際にここにディスクを一覧表示する方が安全です。
複数のメッセージを表示する必要があり、そのうちの1つは有効期限が切れたディスクが含まれていることを示します/dev/sde。/proc/mdstat実行中ですが、パフォーマンスが低下したRAID5があることを確認してください。
ディスクが落ちた理由をご覧ください。理由によって、すぐにデータをコピーする必要がある場合（ディスクの寿命が終わっている場合）、/dev/sdiデータを再追加して再構築することもできます。

mdadmはアレイを監視し、ディスク損失などの不都合な状況が発生したときに警告を送信するように設定できます。正しく設定する必要があります。

Answer

mdadm --forceこの問題は解決する必要があります。同期しているふりをしながら少しデータが破損する可能性があります。次のように使用してください。

mdadm --stop /dev/md127（現在実行中のプログラムを最初に停止する必要があります）
mdadm -v --assemble --run --force /dev/md127 /dev/sd[a-hl-z]。鍵はここから出ることです。/dev/sdiなぜなら知るディスクが最新の状態です。注：すべてのディスクがアレイに属していない場合は、シェルワイルドカードを使用するよりも実際にここにディスクを一覧表示する方が安全です。
複数のメッセージを表示する必要があり、そのうちの1つは有効期限が切れたディスクが含まれていることを示します/dev/sde。/proc/mdstat実行中ですが、パフォーマンスが低下したRAID5があることを確認してください。
ディスクが落ちた理由をご覧ください。理由によって、すぐにデータをコピーする必要がある場合（ディスクの寿命が終わっている場合）、/dev/sdiデータを再追加して再構築することもできます。

mdadmはアレイを監視し、ディスク損失などの不都合な状況が発生したときに警告を送信するように設定できます。正しく設定する必要があります。

Question 3

ドライブがスペアドライブになり、そのメタデータが失われたため、唯一のオプションはRAIDを再作成することです。これは非常に危険であり、一度の誤りでデータが消去される可能性があります。

RAIDを再作成するときに考慮すべきいくつかの点があります。--assume-clean同期しないように使用する必要があります。 1つのドライブ（可能な限り最も悪いドライブ）を指定して予約する必要がありますmissing。最後に、ドライブ順序、メタデータバージョン、RAIDレベル、ブロックサイズ、レイアウト、データオフセットなど、すべての変数を正しく設定する必要があります。

デフォルト値は時間の経過とともに変化する傾向があるため、ここではデフォルト値を信頼できませんmdadm。リカバリ環境がmdadmRAIDが元々作成した環境と同じバージョンを使用せず、まったく同じパラメータを使用しない場合。デフォルト値に依存すると問題が発生する可能性があります。

少なくともmdadm実験をキャンセルできるように、各ドライブの最初と最後のギガバイトの程度をバックアップする必要があります。理想的には、コピー全体でこれらすべてを実行するか、書き込み中にコピーモードでdm-snapshotsまたはnbd-serverを使用して読み取り専用ビューを取得します。これを見てオーバーレイの操作方法。

投稿した出力を正しく解釈すると、--examineドライブ文字が変更されていないと仮定し、これが再作成する正しいコマンドである可能性がありますが、何も保証できません。

mdadm --create /dev/md42 --assume-clean --metadata=1.2 --data-offset=1M \
      --level=5 --chunk=512 --layout=ls --raid-devices=9 \
      /dev/sda /dev/sdc /dev/sdd /dev/sde /dev/sdf \
      /dev/sdg /dev/sdh missing /dev/sdj

また、見ることができますhttps://raid.wiki.kernel.org/index.php/RAID_Recoveryしかし助言に注意して受け入れなさい。エンターテイメントは恐ろしいことで、間違えやすいです。

RAIDを作成したら、読み取り専用モードで表示する必要があります。

mdadm --readonly /dev/md42
file -s /dev/md42
fsck -n /dev/md42
mount -o ro /dev/md42 /mnt/md42

これまで動作している場合は、大きなファイル（ブロックサイズ*ドライブ）を見つけて、すべてが問題ないことを確認する必要があります。間違った2つのドライブを交換すると、ファイルシステムが正しくマウントされる可能性がありますが、ファイルが破損する可能性があります。

mdadm.conf新しいuuidなどを含む新しいレイドになるので、背中を更新する必要があります。

Answer

ドライブがスペアドライブになり、そのメタデータが失われたため、唯一のオプションはRAIDを再作成することです。これは非常に危険であり、一度の誤りでデータが消去される可能性があります。

RAIDを再作成するときに考慮すべきいくつかの点があります。--assume-clean同期しないように使用する必要があります。 1つのドライブ（可能な限り最も悪いドライブ）を指定して予約する必要がありますmissing。最後に、ドライブ順序、メタデータバージョン、RAIDレベル、ブロックサイズ、レイアウト、データオフセットなど、すべての変数を正しく設定する必要があります。

デフォルト値は時間の経過とともに変化する傾向があるため、ここではデフォルト値を信頼できませんmdadm。リカバリ環境がmdadmRAIDが元々作成した環境と同じバージョンを使用せず、まったく同じパラメータを使用しない場合。デフォルト値に依存すると問題が発生する可能性があります。

少なくともmdadm実験をキャンセルできるように、各ドライブの最初と最後のギガバイトの程度をバックアップする必要があります。理想的には、コピー全体でこれらすべてを実行するか、書き込み中にコピーモードでdm-snapshotsまたはnbd-serverを使用して読み取り専用ビューを取得します。これを見てオーバーレイの操作方法。

投稿した出力を正しく解釈すると、--examineドライブ文字が変更されていないと仮定し、これが再作成する正しいコマンドである可能性がありますが、何も保証できません。

mdadm --create /dev/md42 --assume-clean --metadata=1.2 --data-offset=1M \
      --level=5 --chunk=512 --layout=ls --raid-devices=9 \
      /dev/sda /dev/sdc /dev/sdd /dev/sde /dev/sdf \
      /dev/sdg /dev/sdh missing /dev/sdj

また、見ることができますhttps://raid.wiki.kernel.org/index.php/RAID_Recoveryしかし助言に注意して受け入れなさい。エンターテイメントは恐ろしいことで、間違えやすいです。

RAIDを作成したら、読み取り専用モードで表示する必要があります。

mdadm --readonly /dev/md42
file -s /dev/md42
fsck -n /dev/md42
mount -o ro /dev/md42 /mnt/md42

これまで動作している場合は、大きなファイル（ブロックサイズ*ドライブ）を見つけて、すべてが問題ないことを確認する必要があります。間違った2つのドライブを交換すると、ファイルシステムが正しくマウントされる可能性がありますが、ファイルが破損する可能性があります。

mdadm.conf新しいuuidなどを含む新しいレイドになるので、背中を更新する必要があります。

Question 4

私は2つのドライブがアレイから除外されたRAID 5設定（5つのドライブ、それぞれ1 TB）でこれを試しました。私は危険にさらされ、次のコマンドを使用して2つのブートドライブを追加しました。 mdadm --create --assume-clean --level=5 --raid-devices=5 --chunk=512 --layout=left-symmetric /dev/md127 /dev/sdc /dev/sdd /dev/sde /dev/sdf /dev/sdb ここで、sddとsdfはブートドライブです（一部の予備介入のおかげで）。

Answer

私は2つのドライブがアレイから除外されたRAID 5設定（5つのドライブ、それぞれ1 TB）でこれを試しました。私は危険にさらされ、次のコマンドを使用して2つのブートドライブを追加しました。 mdadm --create --assume-clean --level=5 --raid-devices=5 --chunk=512 --layout=left-symmetric /dev/md127 /dev/sdc /dev/sdd /dev/sde /dev/sdf /dev/sdb ここで、sddとsdfはブートドライブです（一部の予備介入のおかげで）。

mdadm-raid5 再組み立て

答え1

私たちのソリューション

答え2

答え3

答え4

関連情報