mdadm RAID6,在重塑期間恢復 2 個磁碟故障

mdadm RAID6,在重塑期間恢復 2 個磁碟故障

我正在將陣列從 10 個磁碟調整為 11 個,並處於降級狀態(我想要添加的驅動器上已經有數據,但無處可放)。 2 個驅動器在運作時斷開連接(電源問題)。

還可以恢復這個陣列嗎?

重新啟動它們後,我無法再次將它們添加到陣列中:

mdadm: /dev/md0 has failed so using --add cannot work and might destroy
mdadm: data on /dev/sdX1.  You should stop the array and re-assemble it.

自從重新啟動以來,我嘗試過:

--assemble,由於「故障」磁碟而失敗

--assemble --force,失敗:

md: sdl1 does not have a valid v1.2 superblock, not importing!
md: sdk1 does not have a valid v1.2 superblock, not importing!
md/raid:md0: not enough operational devices (3/11 failed)
md/raid:md0: failed to run raid set.`

我一直在讀磁碟陣列恢復文章,但到目前為止還沒有成功。

mdadm --create --chunk=64 --size=1953512448 --assume-clean --level=6 --raid-devices=11 /dev/md0 /dev/sd{f,h,e,g,m,i,k,l,n,d}1 missing,失敗:

mdadm: /dev/sdf1 is smaller than given size. 1953512256K < 1953512448K + metadata

對於所有驅動器。我對 --size 的參數是來自 mdadm --examine /dev/sdf1 的「Used Dev Size / 2」。我已將 mdadm 的每個版本降級至 v3.1.2(當預設元資料更改為 1.2 時,我知道我從未手動指定過它)。

刪除 --size,我可以建立陣列,但不能安裝:

XFS (md0):掛載 V4 檔案系統
XFS (md0):日誌不一致(找不到先前的標頭)
XFS (md0): 找不到日誌頭
XFS (md0):日誌安裝/復原失敗:錯誤 -5
XFS (md0): 日誌掛載失敗

資訊

我的mdadm --detail重塑前:

/dev/md0:
        版本:1.2
  創建時間 : 2012 年 1 月 27 日星期五 19:20:36
     突襲等級:raid6
     陣列大小:15628099584(14904.12 GiB 16003.17 GB)
  已用開發大小:1953512448 (1863.01 GiB 2000.40 GB)
   突襲設備:10
  設備總數:10
    持久性:Superblock是持久性的

  意圖點陣圖:內部

    更新時間 : 2015 年 6 月 17 日星期三 14:16:09
          狀態:乾淨
 活躍設備:10
工作裝置:10
 失敗設備:0
  備用設備:0

         佈局:左對稱
     塊大小:64K

           名稱:ubuntu:0
           UUID:70485ad1:0f5f2362:e8f5489a:577ac908
         活動:6037532

    編號 主要 次要 RaidDevice 狀態
       0 8 81 0 活動同步 /dev/sdf1
       9 8 177 1 活動同步 /dev/sdl1
      12 8 65 2 活動同步 /dev/sde1
       3 8 97 3 活動同步 /dev/sdg1
       4 8 145 4 活動同步 /dev/sdj1
       6 8 193 5 活動同步 /dev/sdm1
       7 8 113 6 活動同步 /dev/sdh1
       8 8 129 7 活動同步 /dev/sdi1
      10 8 161 8 主動同步 /dev/sdk1
      11 8 49 9 活動同步 /dev/sdd1

失敗並mdadm --examine重新啟動後,所有磁碟再次可見:

設備路徑已更改,因為在重塑開始之前添加了熱插拔磁碟

/dev/sdd1:
          魔法:a92b4efc
        版本:1.2
    特徵圖:0x5
     數組UUID:70485ad1:0f5f2362:e8f5489a:577ac908
           名稱:ubuntu:0
  創建時間 : 2012 年 1 月 27 日星期五 19:20:36
     突襲等級:raid6
   突襲設備:11

 可用開發大小:3907024896 (1863.01 GiB 2000.40 GB)
     陣列大小:17581612032(16767.13 GiB 18003.57 GB)
    資料偏移:2048 個磁區
   超級偏移:8個扇區
          狀態:乾淨
    設備 UUID:329fc32d:e9cf2ff4:3aa6c9a0:500aa445

內部點陣圖:來自超級區塊的 2 個磁區
  重塑位置:3196923264 (3048.82 GiB 3273.65 GB)
  台達設備:1 (10->11)

    更新時間 : 2015年6月17日星期三 19:46:34
       校驗和:904d0c9c - 正確
         活動:6039833

         佈局:左對稱
     塊大小:64K

   設備角色:活動設備 9
   陣列狀態:A.AAA...AA。 ('A' == 活動,'.' == 缺失)


/dev/sde1:
          魔法:a92b4efc
        版本:1.2
    特徵圖:0x5
     數組UUID:70485ad1:0f5f2362:e8f5489a:577ac908
           名稱:ubuntu:0
  創建時間 : 2012 年 1 月 27 日星期五 19:20:36
     突襲等級:raid6
   突襲設備:11

 可用開發大小:3907024896 (1863.01 GiB 2000.40 GB)
     陣列大小:17581612032(16767.13 GiB 18003.57 GB)
    資料偏移:2048 個磁區
   超級偏移:8個扇區
          狀態:乾淨
    設備 UUID:e59303ea:e613013e:ef8af657:1fc6ccab

內部點陣圖:來自超級區塊的 2 個磁區
  重塑位置:3196923264 (3048.82 GiB 3273.65 GB)
  台達設備:1 (10->11)

    更新時間 : 2015年6月17日星期三 19:46:34
       校驗和:b3b3f659 - 正確
         活動:6039833

         佈局:左對稱
     塊大小:64K

   設備角色:活動設備 2
   陣列狀態:A.AAA...AA。 ('A' == 活動,'.' == 缺失)


/dev/sdf1:
          魔法:a92b4efc
        版本:1.2
    特徵圖:0x5
     數組UUID:70485ad1:0f5f2362:e8f5489a:577ac908
           名稱:ubuntu:0
  創建時間 : 2012 年 1 月 27 日星期五 19:20:36
     突襲等級:raid6
   突襲設備:11

 可用開發大小:3907024896 (1863.01 GiB 2000.40 GB)
     陣列大小:17581612032(16767.13 GiB 18003.57 GB)
    資料偏移:2048 個磁區
   超級偏移:8個扇區
          狀態:乾淨
    設備 UUID:6aa0f9d8:e7b0cc66:d2f2a60​​0:ef305279

內部點陣圖:來自超級區塊的 2 個磁區
  重塑位置:3148373376 (3002.52 GiB 3223.93 GB)
  台達設備:1 (10->11)

    更新時間 : 2015年6月17日星期三 19:46:34
       校驗和:3beac20c - 正確
         活動:6039833

         佈局:左對稱
     塊大小:64K

   設備角色:活動設備 0
   陣列狀態:AAAAAAAAA。 ('A' == 活動,'.' == 缺失)


/dev/sdg1:
          魔法:a92b4efc
        版本:1.2
    特徵圖:0x5
     數組UUID:70485ad1:0f5f2362:e8f5489a:577ac908
           名稱:ubuntu:0
  創建時間 : 2012 年 1 月 27 日星期五 19:20:36
     突襲等級:raid6
   突襲設備:11

 可用開發大小:3907024896 (1863.01 GiB 2000.40 GB)
     陣列大小:17581612032(16767.13 GiB 18003.57 GB)
    資料偏移:2048 個磁區
   超級偏移:8個扇區
          狀態:乾淨
    設備 UUID:4b1d87a9:16027400:df71810f:3ce53c50

內部點陣圖:來自超級區塊的 2 個磁區
  重塑位置:3196923264 (3048.82 GiB 3273.65 GB)
  台達設備:1 (10->11)

    更新時間 : 2015年6月17日星期三 19:46:34
       校驗和:91a563ea - 正確
         活動:6039833

         佈局:左對稱
     塊大小:64K

   設備角色:活動設備 3
   陣列狀態:A.AAA...AA。 ('A' == 活動,'.' == 缺失)


/dev/sdh1:
          魔法:a92b4efc
        版本:1.2
    特徵圖:0x5
     數組UUID:70485ad1:0f5f2362:e8f5489a:577ac908
           名稱:ubuntu:0
  創建時間 : 2012 年 1 月 27 日星期五 19:20:36
     突襲等級:raid6
   突襲設備:11

 可用開發大小:5860268032 (2794.39 GiB 3000.46 GB)
     陣列大小:17581612032(16767.13 GiB 18003.57 GB)
  已用開發大小:3907024896 (1863.01 GiB 2000.40 GB)
    資料偏移:262144個磁區
   超級偏移:8個扇區
          狀態:乾淨
    設備 UUID:27c8fefa:8b2b74a2:9a456d34:d1a60c20

內部點陣圖:來自超級區塊的 2 個磁區
  重塑位置:3196923264 (3048.82 GiB 3273.65 GB)
  台達設備:1 (10->11)

    更新時間 : 2015 年 6 月 17 日星期三 19:29:09
       校驗和:ee4ae103 - 正確
         活動:6039833

         佈局:左對稱
     塊大小:64K

   設備角色:活動設備 1
   陣列狀態:AAAAAA..AA。 ('A' == 活動,'.' == 缺失)


/dev/sdi1:
          魔法:a92b4efc
        版本:1.2
    特徵圖:0x5
     數組UUID:70485ad1:0f5f2362:e8f5489a:577ac908
           名稱:ubuntu:0
  創建時間 : 2012 年 1 月 27 日星期五 19:20:36
     突襲等級:raid6
   突襲設備:11

 可用開發大小:3907024896 (1863.01 GiB 2000.40 GB)
     陣列大小:17581612032(16767.13 GiB 18003.57 GB)
    資料偏移:2048 個磁區
   超級偏移:8個扇區
          狀態:乾淨
    設備 UUID:bebc3764:9e582fe8:01de9766:2d8c452b

內部點陣圖:來自超級區塊的 2 個磁區
  重塑位置:3196923264 (3048.82 GiB 3273.65 GB)
  台達設備:1 (10->11)

    更新時間 : 2015 年 6 月 17 日星期三 19:29:09
       校驗和:6632686d - 正確
         活動:6039833

         佈局:左對稱
     塊大小:64K

   設備角色:活動設備 5
   陣列狀態:AAAAAA..AA。 ('A' == 活動,'.' == 缺失)


/dev/sdk1:
          魔法:a92b4efc
        版本:1.2
    特徵圖:0x5
     數組UUID:70485ad1:0f5f2362:e8f5489a:577ac908
           名稱:ubuntu:0
  創建時間 : 2012 年 1 月 27 日星期五 19:20:36
     突襲等級:raid6
   突襲設備:11

 可用開發大小:5860268032 (2794.39 GiB 3000.46 GB)
     陣列大小:17581612032(16767.13 GiB 18003.57 GB)
  已用開發大小:3907024896 (1863.01 GiB 2000.40 GB)
    資料偏移:262144個磁區
   超級偏移:8個扇區
          狀態:乾淨
    設備UUID:986d9f31:3a74b90d:7800779e:31607539

內部點陣圖:來自超級區塊的 2 個磁區
  重塑位置:3148373376 (3002.52 GiB 3223.93 GB)
  台達設備:1 (10->11)

    更新時間 : 2015 年 6 月 17 日星期三 19:24:09
       校驗和:de0a23b - 正確
         活動:6039833

         佈局:左對稱
     塊大小:64K

   設備角色:活動設備 6
   陣列狀態:AAAAAAAAA。 ('A' == 活動,'.' == 缺失)


/dev/sdl1:
          魔法:a92b4efc
        版本:1.2
    特徵圖:0x5
     數組UUID:70485ad1:0f5f2362:e8f5489a:577ac908
           名稱:ubuntu:0
  創建時間 : 2012 年 1 月 27 日星期五 19:20:36
     突襲等級:raid6
   突襲設備:11

 可用開發大小:5860268032 (2794.39 GiB 3000.46 GB)
     陣列大小:17581612032(16767.13 GiB 18003.57 GB)
  已用開發大小:3907024896 (1863.01 GiB 2000.40 GB)
    資料偏移:262144個磁區
   超級偏移:8個扇區
          狀態:乾淨
    設備 UUID:a5f4ac69:f6bbac94:60c1b790:db2c223e

內部點陣圖:來自超級區塊的 2 個磁區
  重塑位置:3196923264 (3048.82 GiB 3273.65 GB)
  台達設備:1 (10->11)

    更新時間 : 2015年6月17日星期三 19:28:58
       校驗和:c9909fb9 - 正確
         活動:6039833

         佈局:左對稱
     塊大小:64K

   設備角色:活動設備 7
   陣列狀態:AAAAAA.AAA。 ('A' == 活動,'.' == 缺失)


/dev/sdm1:
          魔法:a92b4efc
        版本:1.2
    特徵圖:0x5
     數組UUID:70485ad1:0f5f2362:e8f5489a:577ac908
           名稱:ubuntu:0
  創建時間 : 2012 年 1 月 27 日星期五 19:20:36
     突襲等級:raid6
   突襲設備:11

 可用開發大小:3907024896 (1863.01 GiB 2000.40 GB)
     陣列大小:17581612032(16767.13 GiB 18003.57 GB)
    資料偏移:2048 個磁區
   超級偏移:8個扇區
          狀態:乾淨
    設備 UUID:938d9190:582eecf8:b9157fce:38705df2

內部點陣圖:來自超級區塊的 2 個磁區
  重塑位置:3196923264 (3048.82 GiB 3273.65 GB)
  台達設備:1 (10->11)

    更新時間 : 2015年6月17日星期三 19:46:34
       校驗和:d2462ecd - 正確
         活動:6039833

         佈局:左對稱
     塊大小:64K

   設備角色:活動設備 4
   陣列狀態:A.AAA...AA。 ('A' == 活動,'.' == 缺失)


/dev/sdn1:
          魔法:a92b4efc
        版本:1.2
    特徵圖:0x5
     數組UUID:70485ad1:0f5f2362:e8f5489a:577ac908
           名稱:ubuntu:0
  創建時間 : 2012 年 1 月 27 日星期五 19:20:36
     突襲等級:raid6
   突襲設備:11

 可用開發大小:3907024896 (1863.01 GiB 2000.40 GB)
     陣列大小:17581612032(16767.13 GiB 18003.57 GB)
    資料偏移:2048 個磁區
   超級偏移:8個扇區
          狀態:乾淨
    設備 UUID:289f68f6:f43d8a40:2203e21c:e6cff371

內部點陣圖:來自超級區塊的 2 個磁區
  重塑位置:3196923264 (3048.82 GiB 3273.65 GB)
  台達設備:1 (10->11)

    更新時間 : 2015年6月17日星期三 19:46:34
       校驗和:4db49d1a - 正確
         活動:6039833

         佈局:左對稱
     塊大小:64K

   設備角色:活動設備 8
   陣列狀態:A.AAA...AA。 ('A' == 活動,'.' == 缺失)

答案1

好消息是,所有 10 個磁碟機的匹配事件計數均為 6039833。

我認為成功的關鍵是解決你所看到的原因...

md: sdl1 does not have a valid v1.2 superblock, not importing!
md: sdk1 does not have a valid v1.2 superblock, not importing!

這是一個有趣的案例,當然需要一些研究才能找到解決方案。如果您需要協助,請透過我的個人資料中的網路連結與我聯絡。

答案2

我認為你沒有在這裡講述整個故事,我懷疑電源故障是在raid重新同步期間,如果是這樣,那麼--自動組裝將無法工作。是時候從備份中恢復或尋求專業協助了。

相關內容