mdadm RAID6, 재구성 중 2개의 디스크 오류 복구

mdadm RAID6, 재구성 중 2개의 디스크 오류 복구

내 어레이를 10개 디스크에서 11개 디스크로 성능이 저하된 상태로 재구성하고 있었습니다(추가하려는 드라이브에 이미 데이터가 있지만 저장할 곳이 없습니다). 실행 중 드라이브 2개의 연결이 끊어졌습니다(전원 문제).

이 어레이를 복구하는 것이 여전히 가능합니까?

전원을 껐다 켠 후에는 어레이에 다시 추가할 수 없습니다.

mdadm: /dev/md0 has failed so using --add cannot work and might destroy
mdadm: data on /dev/sdX1.  You should stop the array and re-assemble it.

재부팅 후 다음을 시도했습니다.

--조립, "결함이 있는" 디스크로 인해 실패

--assemble --force, 실패:

md: sdl1 does not have a valid v1.2 superblock, not importing!
md: sdk1 does not have a valid v1.2 superblock, not importing!
md/raid:md0: not enough operational devices (3/11 failed)
md/raid:md0: failed to run raid set.`

나는 다음을 읽고 있었다RAID 복구기사를 읽었으나 지금까지 성공하지 못했습니다.

mdadm --create --chunk=64 --size=1953512448 --assume-clean --level=6 --raid-devices=11 /dev/md0 /dev/sd{f,h,e,g,m,i,k,l,n,d}1 missing, 실패:

mdadm: /dev/sdf1 is smaller than given size. 1953512256K < 1953512448K + metadata

모든 드라이브에 대해. --size에 대한 내 인수는 mdadm --examine /dev/sdf1의 "Used Dev Size / 2"입니다. mdadm을 v3.1.2까지 각 버전으로 다운그레이드했습니다(기본 메타데이터가 1.2로 변경되었을 때 수동으로 지정하지 않은 것으로 알고 있습니다).

--size를 제거하면 어레이를 생성할 수 있지만 마운트할 수는 없습니다.

XFS(md0): V4 파일 시스템 마운트
XFS(md0): 로그 불일치(이전 헤더를 찾지 못함)
XFS(md0): 로그 헤드를 찾지 못했습니다.
XFS(md0): 로그 마운트/복구 실패: 오류 -5
XFS(md0): 로그 마운트 실패

정보

mdadm --detail모양이 바뀌기 전:

/dev/md0:
        버전 : 1.2
  생성시간 : 2012년 1월 27일 금요일 19:20:36
     레이드 레벨 : raid6
     어레이 크기: 15628099584(14904.12GiB 16003.17GB)
  사용된 개발 크기: 1953512448(1863.01GiB 2000.40GB)
   레이드 장비 : 10
  총 장치 : 10
    지속성 : 슈퍼블록은 지속성입니다.

  의도 비트맵: 내부

    업데이트 시간 : 2015년 6월 17일 수요일 14:16:09
          상태 : 깨끗함
 활성 장치: 10
작업장치 : 10
 실패한 장치 : 0
  예비 장치 : 0

         레이아웃 : 왼쪽 대칭
     청크 크기 : 64K

           이름 : 우분투:0
           UUID : 70485ad1:0f5f2362:e8f5489a:577ac908
         이벤트 : 6037532

    번호 주요 사소한 RaidDevice 상태
       0 8 81 0 활성 동기화 /dev/sdf1
       9 8 177 1 활성 동기화 /dev/sdl1
      12 8 65 2 활성 동기화 /dev/sde1
       3 8 97 3 활성 동기화 /dev/sdg1
       4 8 145 4 활성 동기화 /dev/sdj1
       6 8 193 5 활성 동기화 /dev/sdm1
       7 8 113 6 활성 동기화 /dev/sdh1
       8 8 129 7 활성 동기화 /dev/sdi1
      10 8 161 8 활성 동기화 /dev/sdk1
      11 8 49 9 활성 동기화 /dev/sdd1

그리고 mdadm --examine실패 후 재부팅하면 모든 디스크가 다시 표시됩니다.

형태 변경이 시작되기 전에 핫스왑 디스크가 추가되었기 때문에 장치 경로가 변경되었습니다.

/dev/sdd1:
          매직 : a92b4efc
        버전 : 1.2
    기능 맵: 0x5
     어레이 UUID : 70485ad1:0f5f2362:e8f5489a:577ac908
           이름 : 우분투:0
  생성시간 : 2012년 1월 27일 금요일 19:20:36
     레이드 레벨 : raid6
   레이드 장비 : 11

 사용 가능한 개발 크기: 3907024896(1863.01GiB 2000.40GB)
     어레이 크기: 17581612032(16767.13GiB 18003.57GB)
    데이터 오프셋 : 2048 섹터
   슈퍼 오프셋 : 8개 섹터
          상태 : 깨끗함
    장치 UUID : 329fc32d:e9cf2ff4:3aa6c9a0:500aa445

내부 비트맵: 슈퍼블록의 2개 섹터
  위치 변경: 3196923264 (3048.82 GiB 3273.65 GB)
  델타 장치: 1(10->11)

    업데이트 시간 : 2015년 6월 17일 수요일 19:46:34
       체크섬 : 904d0c9c - 정확함
         이벤트 : 6039833

         레이아웃 : 왼쪽 대칭
     청크 크기 : 64K

   장치 역할: 활성 장치 9
   어레이 상태: A.AAA...AA. ('A' == 활성, '.' == 누락)


/dev/sde1:
          매직 : a92b4efc
        버전 : 1.2
    기능 맵: 0x5
     어레이 UUID : 70485ad1:0f5f2362:e8f5489a:577ac908
           이름 : 우분투:0
  생성시간 : 2012년 1월 27일 금요일 19:20:36
     레이드 레벨 : raid6
   레이드 장비 : 11

 사용 가능한 개발 크기: 3907024896(1863.01GiB 2000.40GB)
     어레이 크기: 17581612032(16767.13GiB 18003.57GB)
    데이터 오프셋 : 2048 섹터
   슈퍼 오프셋 : 8개 섹터
          상태 : 깨끗함
    장치 UUID : e59303ea:e613013e:ef8af657:1fc6ccab

내부 비트맵: 슈퍼블록의 2개 섹터
  위치 변경: 3196923264 (3048.82 GiB 3273.65 GB)
  델타 장치: 1(10->11)

    업데이트 시간 : 2015년 6월 17일 수요일 19:46:34
       체크섬 : b3b3f659 - 정확함
         이벤트 : 6039833

         레이아웃 : 왼쪽 대칭
     청크 크기 : 64K

   장치 역할: 활성 장치 2
   어레이 상태: A.AAA...AA. ('A' == 활성, '.' == 누락)


/dev/sdf1:
          매직 : a92b4efc
        버전 : 1.2
    기능 맵: 0x5
     어레이 UUID : 70485ad1:0f5f2362:e8f5489a:577ac908
           이름 : 우분투:0
  생성시간 : 2012년 1월 27일 금요일 19:20:36
     레이드 레벨 : raid6
   레이드 장비 : 11

 사용 가능한 개발 크기: 3907024896(1863.01GiB 2000.40GB)
     어레이 크기: 17581612032(16767.13GiB 18003.57GB)
    데이터 오프셋 : 2048 섹터
   슈퍼 오프셋 : 8개 섹터
          상태 : 깨끗함
    장치 UUID : 6aa0f9d8:e7b0cc66:d2f2a600:ef305279

내부 비트맵: 슈퍼블록의 2개 섹터
  위치 변경: 3148373376 (3002.52 GiB 3223.93 GB)
  델타 장치: 1(10->11)

    업데이트 시간 : 2015년 6월 17일 수요일 19:46:34
       체크섬 : 3beac20c - 정확함
         이벤트 : 6039833

         레이아웃 : 왼쪽 대칭
     청크 크기 : 64K

   장치 역할: 활성 장치 0
   어레이 상태: AAAAAAAAAA. ('A' == 활성, '.' == 누락)


/dev/sdg1:
          매직 : a92b4efc
        버전 : 1.2
    기능 맵: 0x5
     어레이 UUID : 70485ad1:0f5f2362:e8f5489a:577ac908
           이름 : 우분투:0
  생성시간 : 2012년 1월 27일 금요일 19:20:36
     레이드 레벨 : raid6
   레이드 장비 : 11

 사용 가능한 개발 크기: 3907024896(1863.01GiB 2000.40GB)
     어레이 크기: 17581612032(16767.13GiB 18003.57GB)
    데이터 오프셋 : 2048 섹터
   슈퍼 오프셋 : 8개 섹터
          상태 : 깨끗함
    장치 UUID : 4b1d87a9:16027400:df71810f:3ce53c50

내부 비트맵: 슈퍼블록의 2개 섹터
  위치 변경: 3196923264 (3048.82 GiB 3273.65 GB)
  델타 장치: 1(10->11)

    업데이트 시간 : 2015년 6월 17일 수요일 19:46:34
       체크섬 : 91a563ea - 정확함
         이벤트 : 6039833

         레이아웃 : 왼쪽 대칭
     청크 크기 : 64K

   장치 역할: 활성 장치 3
   어레이 상태: A.AAA...AA. ('A' == 활성, '.' == 누락)


/dev/sdh1:
          매직 : a92b4efc
        버전 : 1.2
    기능 맵: 0x5
     어레이 UUID : 70485ad1:0f5f2362:e8f5489a:577ac908
           이름 : 우분투:0
  생성시간 : 2012년 1월 27일 금요일 19:20:36
     레이드 레벨 : raid6
   레이드 장비 : 11

 사용 가능한 개발 크기: 5860268032(2794.39GiB 3000.46GB)
     어레이 크기: 17581612032(16767.13GiB 18003.57GB)
  사용된 개발 크기: 3907024896(1863.01GiB 2000.40GB)
    데이터 오프셋 : 262144 섹터
   슈퍼 오프셋 : 8개 섹터
          상태 : 깨끗함
    장치 UUID : 27c8fefa:8b2b74a2:9a456d34:d1a60c20

내부 비트맵: 슈퍼블록의 2개 섹터
  위치 변경: 3196923264 (3048.82 GiB 3273.65 GB)
  델타 장치: 1(10->11)

    업데이트 시간 : 2015년 6월 17일 수요일 19:29:09
       체크섬 : ee4ae103 - 정확함
         이벤트 : 6039833

         레이아웃 : 왼쪽 대칭
     청크 크기 : 64K

   장치 역할: 활성 장치 1
   어레이 상태: AAAAAA..AA. ('A' == 활성, '.' == 누락)


/dev/sdi1:
          매직 : a92b4efc
        버전 : 1.2
    기능 맵: 0x5
     어레이 UUID : 70485ad1:0f5f2362:e8f5489a:577ac908
           이름 : 우분투:0
  생성시간 : 2012년 1월 27일 금요일 19:20:36
     레이드 레벨 : raid6
   레이드 장비 : 11

 사용 가능한 개발 크기: 3907024896(1863.01GiB 2000.40GB)
     어레이 크기: 17581612032(16767.13GiB 18003.57GB)
    데이터 오프셋 : 2048 섹터
   슈퍼 오프셋 : 8개 섹터
          상태 : 깨끗함
    장치 UUID : bebc3764:9e582fe8:01de9766:2d8c452b

내부 비트맵: 슈퍼블록의 2개 섹터
  위치 변경: 3196923264 (3048.82 GiB 3273.65 GB)
  델타 장치: 1(10->11)

    업데이트 시간 : 2015년 6월 17일 수요일 19:29:09
       체크섬 : 6632686d - 정확함
         이벤트 : 6039833

         레이아웃 : 왼쪽 대칭
     청크 크기 : 64K

   장치 역할: 활성 장치 5
   어레이 상태: AAAAAA..AA. ('A' == 활성, '.' == 누락)


/dev/sdk1:
          매직 : a92b4efc
        버전 : 1.2
    기능 맵: 0x5
     어레이 UUID : 70485ad1:0f5f2362:e8f5489a:577ac908
           이름 : 우분투:0
  생성시간 : 2012년 1월 27일 금요일 19:20:36
     레이드 레벨 : raid6
   레이드 장비 : 11

 사용 가능한 개발 크기: 5860268032(2794.39GiB 3000.46GB)
     어레이 크기: 17581612032(16767.13GiB 18003.57GB)
  사용된 개발 크기: 3907024896(1863.01GiB 2000.40GB)
    데이터 오프셋 : 262144 섹터
   슈퍼 오프셋 : 8개 섹터
          상태 : 깨끗함
    장치 UUID : 986d9f31:3a74b90d:7800779e:31607539

내부 비트맵: 슈퍼블록의 2개 섹터
  위치 변경: 3148373376 (3002.52 GiB 3223.93 GB)
  델타 장치: 1(10->11)

    업데이트 시간 : 2015년 6월 17일 수요일 19:24:09
       체크섬 : de0a23b - 정확함
         이벤트 : 6039833

         레이아웃 : 왼쪽 대칭
     청크 크기 : 64K

   장치 역할: 활성 장치 6
   어레이 상태: AAAAAAAAAA. ('A' == 활성, '.' == 누락)


/dev/sdl1:
          매직 : a92b4efc
        버전 : 1.2
    기능 맵: 0x5
     어레이 UUID : 70485ad1:0f5f2362:e8f5489a:577ac908
           이름 : 우분투:0
  생성시간 : 2012년 1월 27일 금요일 19:20:36
     레이드 레벨 : raid6
   레이드 장비 : 11

 사용 가능한 개발 크기: 5860268032(2794.39GiB 3000.46GB)
     어레이 크기: 17581612032(16767.13GiB 18003.57GB)
  사용된 개발 크기: 3907024896(1863.01GiB 2000.40GB)
    데이터 오프셋 : 262144 섹터
   슈퍼 오프셋 : 8개 섹터
          상태 : 깨끗함
    장치 UUID : a5f4ac69:f6bbac94:60c1b790:db2c223e

내부 비트맵: 슈퍼블록의 2개 섹터
  위치 변경: 3196923264 (3048.82 GiB 3273.65 GB)
  델타 장치: 1(10->11)

    업데이트 시간 : 2015년 6월 17일 수요일 19:28:58
       체크섬 : c9909fb9 - 정확함
         이벤트 : 6039833

         레이아웃 : 왼쪽 대칭
     청크 크기 : 64K

   장치 역할: 활성 장치 7
   어레이 상태: AAAAAA.AAA. ('A' == 활성, '.' == 누락)


/dev/sdm1:
          매직 : a92b4efc
        버전 : 1.2
    기능 맵: 0x5
     어레이 UUID : 70485ad1:0f5f2362:e8f5489a:577ac908
           이름 : 우분투:0
  생성시간 : 2012년 1월 27일 금요일 19:20:36
     레이드 레벨 : raid6
   레이드 장비 : 11

 사용 가능한 개발 크기: 3907024896(1863.01GiB 2000.40GB)
     어레이 크기: 17581612032(16767.13GiB 18003.57GB)
    데이터 오프셋 : 2048 섹터
   슈퍼 오프셋 : 8개 섹터
          상태 : 깨끗함
    장치 UUID : 938d9190:582eecf8:b9157fce:38705df2

내부 비트맵: 슈퍼블록의 2개 섹터
  위치 변경: 3196923264 (3048.82 GiB 3273.65 GB)
  델타 장치: 1(10->11)

    업데이트 시간 : 2015년 6월 17일 수요일 19:46:34
       체크섬 : d2462ecd - 정확함
         이벤트 : 6039833

         레이아웃 : 왼쪽 대칭
     청크 크기 : 64K

   장치 역할: 활성 장치 4
   어레이 상태: A.AAA...AA. ('A' == 활성, '.' == 누락)


/dev/sdn1:
          매직 : a92b4efc
        버전 : 1.2
    기능 맵: 0x5
     어레이 UUID : 70485ad1:0f5f2362:e8f5489a:577ac908
           이름 : 우분투:0
  생성시간 : 2012년 1월 27일 금요일 19:20:36
     레이드 레벨 : raid6
   레이드 장비 : 11

 사용 가능한 개발 크기: 3907024896(1863.01GiB 2000.40GB)
     어레이 크기: 17581612032(16767.13GiB 18003.57GB)
    데이터 오프셋 : 2048 섹터
   슈퍼 오프셋 : 8개 섹터
          상태 : 깨끗함
    장치 UUID : 289f68f6:f43d8a40:2203e21c:e6cff371

내부 비트맵: 슈퍼블록의 2개 섹터
  위치 변경: 3196923264 (3048.82 GiB 3273.65 GB)
  델타 장치: 1(10->11)

    업데이트 시간 : 2015년 6월 17일 수요일 19:46:34
       체크섬 : 4db49d1a - 정확함
         이벤트 : 6039833

         레이아웃 : 왼쪽 대칭
     청크 크기 : 64K

   장치 역할: 활성 장치 8
   어레이 상태: A.AAA...AA. ('A' == 활성, '.' == 누락)

답변1

좋은 소식은 10개 드라이브 모두 6039833에서 일치하는 이벤트 수가 있다는 것입니다.

성공의 열쇠는 왜 보고 있는지를 해결하는 것이라고 생각합니다.

md: sdl1 does not have a valid v1.2 superblock, not importing!
md: sdk1 does not have a valid v1.2 superblock, not importing!

이것은 흥미로운 사례이며 확실히 해결책을 찾으려면 약간의 연구가 필요할 것입니다. 도움이 필요하시면 내 프로필의 웹 링크를 통해 저에게 연락하세요.

답변2

여기서 전체 이야기를 말하지 않은 것 같습니다. 습격 재동기화 중 정전이 발생한 것으로 의심됩니다. 그렇다면 --auto-assemble이 작동하지 않습니다. 이제 백업에서 복구하거나 전문가의 도움을 받아야 할 때입니다.

관련 정보