mdadm: /dev/sdd1 のスーパーブロックが他のものと一致しません - アセンブリが中止されました

mdadm: /dev/sdd1 のスーパーブロックが他のものと一致しません - アセンブリが中止されました

OS: Debian Squeeze カーネル: 2.6.32-5-amd64 mdadm バージョン: 3.1.4 (2010 年 8 月 31 日)

mdarrays

md1 = raid1 (this is working)                          (devices: /dev/sd[fg]1)
md0 = raid6 (previously raid5, now failing to start)   (devices: /dev/sd[abcde]1)

説明: 4 ディスクの RAID 5 を 6 ディスクの RAID 6 に変換することにしました。アレイにさらに 2 つのディスクを追加し、再形成を開始しました。プロセスの早い段階で 1 つのディスクが失われました (スマート エラー)。ディスクは削除され、再形成は続行されました。再形成中に 3 回電源障害が発生しましたが、電源投入のたびに再形成は続行されました。再形成は終了しましたが、1 つのディスクが「削除」されました。つまり、OS にバージョンが報告されませんでした (不明なモデルとして表示されました)。

この段階では、raid6 には 2 つのディスクが欠落していましたが、アレイは動作していました (まだ交換用ディスクを待っているため、アレイを完成させるには 1 つのディスクが欠落しています)。

マシンの電源をオフにして再度オンにし、失われたディスクが再び表示されるか確認することにしました。ディスクは表示されましたが、アレイの組み立てに失敗し、次のエラーが発生しました。

madm --assemble /dev/md0 
mdadm: superblock on /dev/sdd1 doesn't match others - assembly aborted

mdadm --assemble --force /dev/md0 も試しましたが、まったく同じエラーが発生しました。

今私はこれを試しました:

mdadm --verbose --assemble /dev/md0
mdadm: looking for devices for /dev/md0
mdadm: cannot open device /dev/md/1: Device or resource busy
mdadm: /dev/md/1 has wrong uuid.
mdadm: cannot open device /dev/sdg1: Device or resource busy
mdadm: /dev/sdg1 has wrong uuid.
mdadm: cannot open device /dev/sdg: Device or resource busy
mdadm: /dev/sdg has wrong uuid.
mdadm: cannot open device /dev/sdf2: Device or resource busy
mdadm: /dev/sdf2 has wrong uuid.
mdadm: cannot open device /dev/sdf1: Device or resource busy
mdadm: /dev/sdf1 has wrong uuid.
mdadm: cannot open device /dev/sdf: Device or resource busy
mdadm: /dev/sdf has wrong uuid.
mdadm: no RAID superblock on /dev/sde2
mdadm: /dev/sde2 has wrong uuid.
mdadm: no RAID superblock on /dev/sde
mdadm: /dev/sde has wrong uuid.
mdadm: cannot open device /dev/sdd2: Device or resource busy
mdadm: /dev/sdd2 has wrong uuid.
mdadm: superblock on /dev/sdd1 doesn't match others - assembly aborted

また、mdadm -Esvvv の出力は次のようになります。

mdadm -Esvvv
mdadm: No md superblock detected on /dev/md/1.
/dev/sdg1:
          Magic : a92b4efc
        Version : 1.2
    Feature Map : 0x0
     Array UUID : b7433980:f3a086eb:7f8f8a15:093b5909
           Name : cell01:1  (local to host cell01)
  Creation Time : Sun Apr  8 15:30:47 2012
     Raid Level : raid1
   Raid Devices : 2

 Avail Dev Size : 1681342464 (801.73 GiB 860.85 GB)
     Array Size : 1681342192 (801.73 GiB 860.85 GB)
  Used Dev Size : 1681342192 (801.73 GiB 860.85 GB)
    Data Offset : 2048 sectors
   Super Offset : 8 sectors
          State : clean
    Device UUID : 74d30246:840a1947:b4eeecc1:0dd95b2a

    Update Time : Fri Aug 24 00:06:16 2012
       Checksum : b302004f - correct
         Events : 244


   Device Role : Active device 1
   Array State : AA ('A' == active, '.' == missing)
mdadm: No md superblock detected on /dev/sdg.
/dev/sdf2:
          Magic : a92b4efc
        Version : 1.2
    Feature Map : 0x0
     Array UUID : b7433980:f3a086eb:7f8f8a15:093b5909
           Name : cell01:1  (local to host cell01)
  Creation Time : Sun Apr  8 15:30:47 2012
     Raid Level : raid1
   Raid Devices : 2

 Avail Dev Size : 1681342464 (801.73 GiB 860.85 GB)
     Array Size : 1681342192 (801.73 GiB 860.85 GB)
  Used Dev Size : 1681342192 (801.73 GiB 860.85 GB)
    Data Offset : 2048 sectors
   Super Offset : 8 sectors
          State : clean
    Device UUID : 5847c4e4:319a9c6e:353f67c8:765e4b47

    Update Time : Fri Aug 24 00:06:16 2012
       Checksum : 9cb0d9ca - correct
         Events : 244


   Device Role : Active device 0
   Array State : AA ('A' == active, '.' == missing)
mdadm: No md superblock detected on /dev/sdf1.
mdadm: No md superblock detected on /dev/sdf.
mdadm: No md superblock detected on /dev/sde2.
/dev/sde1:
          Magic : a92b4efc
        Version : 1.2
    Feature Map : 0x0
     Array UUID : 5343f9b9:ccb86e50:33ed2a4b:d494c7dc
           Name : cell01:0  (local to host cell01)
  Creation Time : Sat Jul  2 11:22:04 2011
     Raid Level : raid6
   Raid Devices : 6

 Avail Dev Size : 3904927744 (1862.01 GiB 1999.32 GB)
     Array Size : 15619706880 (7448.06 GiB 7997.29 GB)
  Used Dev Size : 3904926720 (1862.01 GiB 1999.32 GB)
    Data Offset : 2048 sectors
   Super Offset : 8 sectors
          State : clean
    Device UUID : d13f32aa:7da122d9:77ba06f0:bc57d063

    Update Time : Thu Aug 23 22:15:58 2012
       Checksum : 6212fa6e - correct
         Events : 134404

         Layout : left-symmetric
     Chunk Size : 512K

   Device Role : Active device 5
   Array State : AA.A.A ('A' == active, '.' == missing)
mdadm: No md superblock detected on /dev/sde.
mdadm: No md superblock detected on /dev/sdd2.
/dev/sdd1:
          Magic : a92b4efc
        Version : 1.2
    Feature Map : 0x4
     Array UUID : 5343f9b9:ccb86e50:33ed2a4b:d494c7dc
           Name : cell01:0  (local to host cell01)
  Creation Time : Sat Jul  2 11:22:04 2011
     Raid Level : raid6
   Raid Devices : 6

 Avail Dev Size : 3904927744 (1862.01 GiB 1999.32 GB)
     Array Size : 15619706880 (7448.06 GiB 7997.29 GB)
  Used Dev Size : 3904926720 (1862.01 GiB 1999.32 GB)
    Data Offset : 2048 sectors
   Super Offset : 8 sectors
          State : clean
    Device UUID : 3d05a6b3:3a05d5bc:fc1d01a6:10c055eb

  Reshape pos'n : 7732852736 (7374.62 GiB 7918.44 GB)
  Delta Devices : 1 (5->6)
     New Layout : left-symmetric

    Update Time : Thu Aug 23 09:48:17 2012
       Checksum : 83a30996 - correct
         Events : 134174

         Layout : left-symmetric-6
     Chunk Size : 512K

   Device Role : Active device 2
   Array State : AAAA.A ('A' == active, '.' == missing)
mdadm: No md superblock detected on /dev/sdd.
mdadm: No md superblock detected on /dev/sda2.
/dev/sda1:
          Magic : a92b4efc
        Version : 1.2
    Feature Map : 0x0
     Array UUID : 5343f9b9:ccb86e50:33ed2a4b:d494c7dc
           Name : cell01:0  (local to host cell01)
  Creation Time : Sat Jul  2 11:22:04 2011
     Raid Level : raid6
   Raid Devices : 6

 Avail Dev Size : 3904927744 (1862.01 GiB 1999.32 GB)
     Array Size : 15619706880 (7448.06 GiB 7997.29 GB)
  Used Dev Size : 3904926720 (1862.01 GiB 1999.32 GB)
    Data Offset : 2048 sectors
   Super Offset : 8 sectors
          State : clean
    Device UUID : c66da6b9:aa010cbc:8e4ab376:7a623f21

    Update Time : Thu Aug 23 22:15:58 2012
       Checksum : 988b9d9b - correct
         Events : 134404

         Layout : left-symmetric
     Chunk Size : 512K

   Device Role : Active device 3
   Array State : AA.A.A ('A' == active, '.' == missing)
mdadm: No md superblock detected on /dev/sda.
mdadm: No md superblock detected on /dev/sdc2.
/dev/sdc1:
          Magic : a92b4efc
        Version : 1.2
    Feature Map : 0x0
     Array UUID : 5343f9b9:ccb86e50:33ed2a4b:d494c7dc
           Name : cell01:0  (local to host cell01)
  Creation Time : Sat Jul  2 11:22:04 2011
     Raid Level : raid6
   Raid Devices : 6

 Avail Dev Size : 3904927744 (1862.01 GiB 1999.32 GB)
     Array Size : 15619706880 (7448.06 GiB 7997.29 GB)
  Used Dev Size : 3904926720 (1862.01 GiB 1999.32 GB)
    Data Offset : 2048 sectors
   Super Offset : 8 sectors
          State : clean
    Device UUID : e7afc574:abca367c:ebb58fe5:c4961cb7

    Update Time : Thu Aug 23 22:15:58 2012
       Checksum : 188fd371 - correct
         Events : 134404

         Layout : left-symmetric
     Chunk Size : 512K

   Device Role : Active device 0
   Array State : AA.A.A ('A' == active, '.' == missing)
mdadm: No md superblock detected on /dev/sdc.
mdadm: No md superblock detected on /dev/sdb2.
/dev/sdb1:
          Magic : a92b4efc
        Version : 1.2
    Feature Map : 0x0
     Array UUID : 5343f9b9:ccb86e50:33ed2a4b:d494c7dc
           Name : cell01:0  (local to host cell01)
  Creation Time : Sat Jul  2 11:22:04 2011
     Raid Level : raid6
   Raid Devices : 6

 Avail Dev Size : 3904927744 (1862.01 GiB 1999.32 GB)
     Array Size : 15619706880 (7448.06 GiB 7997.29 GB)
  Used Dev Size : 3904926720 (1862.01 GiB 1999.32 GB)
    Data Offset : 2048 sectors
   Super Offset : 8 sectors
          State : clean
    Device UUID : fb3a88de:834f2bc0:452db777:48ef3b21

    Update Time : Thu Aug 23 22:15:58 2012
       Checksum : c28d282b - correct
         Events : 134404

         Layout : left-symmetric
     Chunk Size : 512K

   Device Role : Active device 1
   Array State : AA.A.A ('A' == active, '.' == missing)
mdadm: No md superblock detected on /dev/sdb.

私が確認した唯一の違いは、不一致のディスクの機能マップが 0x4 に設定され、他のディスクは 0x0 に設定されていることです。アレイの UUID はすべてのディスクで同じです。

データがまだ残っていることはほぼ確実で、/dev/sdd1 のスーパーブロックをゼロにしてアレイに再度追加しようかと考えています。2 つのディスクがなくてもアレイは動作するはずだと考えているからです。しかし、バックアップがないので (そう、馬鹿げていることはわかっています)、データは私にとって重要なので (RAID6 を選択した理由です)、アレイを回復する最も安全な方法を試してみたいと思います。

新しい mdadm が搭載された Debian wheezy へのアップグレードも検討していましたが、wheezy がリリースされるまでは Debian stable を使い続けたいと考えています。

ご想像のとおり、これはかなり恐ろしいことであり、データを失いたくないので、知識と経験のある方が次に何をすべきか教えていただければ幸いです。

答え1

解決策は驚くほど簡単だった

mdadm --assemble /dev/md0 /dev/sd1 /dev/sdb1 /dev/sdc1 /dev/sde1

それから

mdadm --add /dev/md0 /dev/sdd1

レイドは回復中です!

関連情報