Pomoc Jak odzyskać dane z Qnap RAID 5 HDD i RAID 5 SSD cache - polecenie firmy do odzyskiwania danych?

Kraszer

Entry Technician
Q Associate
7 Luty 2020
53
2
8
27
QNAP
null
Ethernet
10 GbE
Skrót:
Po aktualizacji qnapa nie mogę uzyskać dostępu do serwera i dział wsparcia qnap nie rozwiązał tego problemu. Dział wsparcia zaleca mi reset serwera i przywrócenie danych z kopii zapasowej, której niestety nie posiadam.
Czy jestem w stanie samemu lub płacąc zewnętrznej firmie odzyskać dane z mojego serwera?

Sprzęt:
Posiadam Qnap TS-332x w którym znajdują się 3 dyski HDD 6TB Seagete ironwolf w raid 5 i 3 dyski SSD 512GB Adata Sata M.2 w raid 5 w trybie cache read-write. Oprócz tego miałem włączone migawki na które przeznaczone było z 1,5 TB miejsca.

Opis awarii:
Dwa tygodnie temu dokonałem aktualizacji systemu qnap do wersji 5.0.1.2173. Na wersji 5.0 byłem już od kilku miesięcy.
Po zaktualizowaniu i zrestartowaniu serwera przestałem mieć dostęp do qnapa, wtedy próbowałem tylko przez web ui, ale teraz wiem że inne metody jak ssh przez putty też nie działają.
Górna dioda w qnap miga na czerwono-zielono, same dyski świecą się na zielono.
W programie qfinder w kolumnie status widnieje wiadomość że w qnap zaszedł poważny błąd.

Kontakt z działem wsparcia qnap:
Skontaktowałem się ze wsparciem qnap. Niestety po 3 sesjach które trwały łącznie około 3h qnap wsparcie powiedziało mi że nie mogą mi pomóc i powinienem przywrócić dane z backupu:

Niestety, ale w związku z tym, że cache został uruchomiony na dyskach M.2, które nie są hot-swap i jest to cache typu Read-Write, czyli spójny dla macierzy dyskowej nie jesteśmy w stanie zbootować urządzenia, ani przywrócić do działania.

W tej sytuacji proponujemy jego ponowną inicjalizację i przywrócenie danych z backupu. Należy również wcześniej sprawdzić wszystkie zainstalowane dyski narzędziami producenta pod PC.

--------

Próbowaliśmy swoich sił, niestety nie jesteśmy w stanie uzyskać dostępu do danych. Cache był skonfigurowany jako R/W i to uniemożliwia nam uzyskać dostępu do woluminów.


Pytanie:
Niestety nie posiadam pełnego backupu danych dlatego chciałbym się dowiedzieć czy istnieje możliwość odzyskania danych z mojego qnapa. Czy mogę taką czynność przeprowadzić samemu albo, czy jest jakaś firma która zajmuje się odzyskiwaniem danych i może mi pomóc w takie sytuacji?

Opis diagnozy przeprowadzonej przez dział wsparcia qnap:
Dział wsparcia nie tłumaczył mi co robi. Przedstawiam opis tego, co wydaje mi się że zaszło.

1. Uruchomiłem serwer bez dysków i o ile wiem włączał się on poprawnie
2. Następnie uruchomiłem serwer tylko z dyskami hdd. Support był w stanie połączyć się przez ssh z qnapem i przeprowadzić analizę. Z tego, co widziałem to przeprowadzili sprawdzenie dysków który podał 2000 lini typu:
“metadata reference counts differ for block 8373203, expected 5, but got 6”.
Wszędzie było przesuniecie o jeden numer do przodu.
Rozumiem że to błąd w zapisie danych dla 2000 sektorów z co najmniej 8373203, czyli jakieś 0.024% danych.
3. Uruchomiłem serwer ze wszystkimi dyskami HDD i SSD. Support nie był w stanie połączyć się z serwerem. Użyli jeszcze programu do analizy protokołów sieciowych wireshark.

Moje pomysły i dodatkowe pytania pytania:
1. Teoretycznie większość danych powinna się znajdować na samym HDD ze względu na to ze cache to 1 TB a dane zajmowały około 6 TB. Dlatego mam nadzieje że może uda się odzyskać dane z samych HDD. Może sam Seagate jest w stanie odzyskać z nich dane w ramach gwarancji odzyskiwania danych.
2. Czy przełożenie wszystkich dysków do drugiego qnapa mogłoby pomóc?


Pytania o rady na przyszłość:
1. Czy nie użycie ssd cache pozwoliłoby uniknąć tego problemu?
2. Czy można zainstalować system na małym ssd a dane trzymać na hdd. Wtedy przy aktualizacji padłby system na ssd a dane na hdd byłby nie tknięte i sam qnap włączałby się szybko (w tym momencie robi to bardzo wolno)?
3. Moim wnioskiem z tego wszystkiego jest to że nie ma sensu bawić się w raidy i cache, bo potem nie da się tego w łatwy sposób odzyskać. Lepiej zainwestować w dodatkowe oddzielne dyski na backup. Czy uważacie że to prawidłowy wniosek?
 
Nasze doświadczenia z cache mówią że do zastosowań domowym nie nadaje się.
Do zastosowań firmowych raczej generalnie nie, moze przy bazach danych albo programach graficznych.

Jak ktoś mocno się upiera, to cache RO.

2. Czy przełożenie wszystkich dysków do drugiego qnapa mogłoby pomóc?
Nie, dane są uszkodzone na dyskach.

1. Czy nie użycie ssd cache pozwoliłoby uniknąć tego problemu?
Jeśli cache RO , to nie jest problemem.

2. Czy można zainstalować system na małym ssd a dane trzymać na hdd.
Polecam to dość mocno od jakiegoś czasu - odseparowanie systemu od danych. System padnie, to szybko go przywrócisz, a dane są osobno.

Wtedy przy aktualizacji padłby system na ssd a dane na hdd byłby nie tknięte i sam qnap włączałby się szybko (w tym momencie robi to bardzo wolno)?
System włączy się dużo szybciej.

3. Moim wnioskiem z tego wszystkiego jest to że nie ma sensu bawić się w raidy i cache, bo potem nie da się tego w łatwy sposób odzyskać.
RAID jest przydatny, cache nie bardzo.

RAID0 - nie używać bez potrzeby.
RAID1 polecam, odzyskiwanie jest proste.
RAID5 i wyższe są trudniejsze w odzyskiwaniu , bo musisz znać metode jak dane sa zapisane.

i teraz masz nauczkę że kopie trzeba mieć 3-2-1, Backup skuteczny, czyli zasada 3-2-1 - BackUp Academy
 
Więc tak. Niestety ja prywatnie zajmowałem się tą sprawą w Twoim ticketcie. Do jego rozwiązania zaprosiłem dwóch najlepszych mi inżynierów jeśli chodzi o kwestię RAID.

Zacznę od tych brzydkich i mniej przyjemnych rzeczy, którę są niestety faktami.

1) QNAP nie zajmuje się odzyskiwaniem danych, nawet jeśli awaria danych wynikła np. w przypadku uszkodzenia samego serwera.

2) Nigdy nie dzieje się tak, że po restarcie systemu nagle dyski przestają odmawiać posluszeństwa i RAID się nie składa. No coś jest na rzeczy....

3) W manualu QNAP jest jasno napisane, że należy posiadać min. RAID 1 dla CACHE R/W w przeciwnym wypadku przy awarii CACHE R/W dane z HDD są nie do odzyskania. Serio tak jest.

4) Powyższe tyczy się też maszyn wirtualnych z włączonym cachem zapisu. Jak braknie prądu, jest mikro zanik napięcia, CACHE nie zapisze się na HDD i koniec. Maszyna wirtualna jest do śmietnika.

5) Używając CACHE R/W - zawsze, ale to absolutnie zawsze trzeba mieć sprawnego UPS'a i to nie takiego za 200zl z allegro albo sklejke z akumulatorów, tylko naprawdę dobrego UPS'a.

Co można zrobić w Twojej sytuacji. Nie wiele, ponieważ posiadasz system na ARMie, wszystkie dyski są obsadzone i chociaż chcielibyśmy go zbootować to się nie da bo nie ma ani jednego wolnego slotu żeby go zainicjować na nowym systemie.

Mógłbym Ci polecić poskładanie jakiegoś PC, na małym dysku zainstalować najnowsze Ubuntu. Zamknąć kompa, dołożyc wszystkie pozostale do niego dyski wraz z dyskami M.2 (miałeś ich 3, które nie są hot-swap) i uruchomić następnie udostępnić nam SSH i podać hasło do roota. Ale jest 50/50, że nasi inżynierowie będą mieli czas w ogóle się tym zająć - support nie zajmuje się odzyskiwaniem danych ani również nie wspiera działań na innych urządzeniach niż QNAP.

Wiem, że to wszystko co napisałem brzydko brzmi, ale nie owijam w bawełne. Sam kiedyś miałem cache r/w, maszyne VM z cachem zapisu... przyszła burza. Strzeliło z 10 kilometrtów ode mnie albo i więcej, system miał mały zanik prądu, wszystko padło.
Od tej pory mam UPS a CACHE R/W nie używam w ogóle.
Cache R/W jest dobry dla producentów audio/video, którzy szybko renederują projekt a później przewalają na jednostkę centralna (archiwizacyjną).

Chciałbym Ci pomóc, ale ja nie mam rozwiązania dla Twojego problemu, moi inżynierowie, którzy również są dobrzy również takiego nie posiadają. Może gdybyś miał jakiegoś NASa na większą ilość dysków i byłbyś w stanie go z zainicjować, to może wtedy coś można działać. Ale pamiętaj, ta usterka bez powodu się nie wzięła.

Nie wiem co Ci powiedzieć. Backup. Kto tego nie przeżył to nie rozumie słowa backup.
Przykro mi.
Jak masz jakieś pytania, albo sugestie chętnie Ci odpowiem, ale ja nie mam pomysłu co z tym zrobić.
 
Czy jestem w stanie samemu lub płacąc zewnętrznej firmie odzyskać dane z mojego serwera?
Samemu bym sie za to nie bral, generalnie masz bardzo nietypowy setup.
Zadaj sobie teraz pytanie ile $ sa warte dla ciebie dane na tych dyskach. Jak liczone w tysiacach, to warto szukac pomocy w firmach specjalizujacych sie w odzyskiwaniu danych. Jak dane sa do odtworzenia, i jedyne co stracisz to czas na ich odzyskanie/zbudowanie od nowa, to idz ta droga.
 
  • Lubię to
Reakcje: Kong
Tzn. moim zdaniem powinien odpalic PC z Ubuntu i zapiąć te wszystkie dyski. Mam naprawdę świetnych inżynierów, ale musze mieć pełny dostęp do roota i dostęp via SSH do tego Ubuntu (przekierowane porty).
Natomiast tak jak mówie - pula dyskowa + raid same sie nie wywalily.
 
Tzn. moim zdaniem powinien odpalic PC z Ubuntu i zapiąć te wszystkie dyski. Mam naprawdę świetnych inżynierów, ale musze mieć pełny dostęp do roota i dostęp via SSH do tego Ubuntu (przekierowane porty).
Natomiast tak jak mówie - pula dyskowa + raid same sie nie wywalily.
Dzięki że piszesz tutaj poza pracą.

Jeżeli chodzi o złożenie PC to mogę do tego wykorzystać istniejący PC i po prostu zbootować go z dysku na którym jest ubuntu?
Czy dyski m.2 ssd mogę podpiąć przez adaptery do zwykłych portów sata albo do usb 3.0?
Moja płyta w PC posiada 6 portów sata więc teoretycznie mógłbym to zrobić.
 
Więc tak. Niestety ja prywatnie zajmowałem się tą sprawą w Twoim ticketcie. Do jego rozwiązania zaprosiłem dwóch najlepszych mi inżynierów jeśli chodzi o kwestię RAID.

Zacznę od tych brzydkich i mniej przyjemnych rzeczy, którę są niestety faktami.

1) QNAP nie zajmuje się odzyskiwaniem danych, nawet jeśli awaria danych wynikła np. w przypadku uszkodzenia samego serwera.

2) Nigdy nie dzieje się tak, że po restarcie systemu nagle dyski przestają odmawiać posluszeństwa i RAID się nie składa. No coś jest na rzeczy....

3) W manualu QNAP jest jasno napisane, że należy posiadać min. RAID 1 dla CACHE R/W w przeciwnym wypadku przy awarii CACHE R/W dane z HDD są nie do odzyskania. Serio tak jest.

4) Powyższe tyczy się też maszyn wirtualnych z włączonym cachem zapisu. Jak braknie prądu, jest mikro zanik napięcia, CACHE nie zapisze się na HDD i koniec. Maszyna wirtualna jest do śmietnika.

5) Używając CACHE R/W - zawsze, ale to absolutnie zawsze trzeba mieć sprawnego UPS'a i to nie takiego za 200zl z allegro albo sklejke z akumulatorów, tylko naprawdę dobrego UPS'a.

Co można zrobić w Twojej sytuacji. Nie wiele, ponieważ posiadasz system na ARMie, wszystkie dyski są obsadzone i chociaż chcielibyśmy go zbootować to się nie da bo nie ma ani jednego wolnego slotu żeby go zainicjować na nowym systemie.

Mógłbym Ci polecić poskładanie jakiegoś PC, na małym dysku zainstalować najnowsze Ubuntu. Zamknąć kompa, dołożyc wszystkie pozostale do niego dyski wraz z dyskami M.2 (miałeś ich 3, które nie są hot-swap) i uruchomić następnie udostępnić nam SSH i podać hasło do roota. Ale jest 50/50, że nasi inżynierowie będą mieli czas w ogóle się tym zająć - support nie zajmuje się odzyskiwaniem danych ani również nie wspiera działań na innych urządzeniach niż QNAP.

Wiem, że to wszystko co napisałem brzydko brzmi, ale nie owijam w bawełne. Sam kiedyś miałem cache r/w, maszyne VM z cachem zapisu... przyszła burza. Strzeliło z 10 kilometrtów ode mnie albo i więcej, system miał mały zanik prądu, wszystko padło.
Od tej pory mam UPS a CACHE R/W nie używam w ogóle.
Cache R/W jest dobry dla producentów audio/video, którzy szybko renederują projekt a później przewalają na jednostkę centralna (archiwizacyjną).

Chciałbym Ci pomóc, ale ja nie mam rozwiązania dla Twojego problemu, moi inżynierowie, którzy również są dobrzy również takiego nie posiadają. Może gdybyś miał jakiegoś NASa na większą ilość dysków i byłbyś w stanie go z zainicjować, to może wtedy coś można działać. Ale pamiętaj, ta usterka bez powodu się nie wzięła.

Nie wiem co Ci powiedzieć. Backup. Kto tego nie przeżył to nie rozumie słowa backup.
Przykro mi.
Jak masz jakieś pytania, albo sugestie chętnie Ci odpowiem, ale ja nie mam pomysłu co z tym zrobić.
Jeżeli chodzi o pozostałe rzeczy:
Nie chce obwiniać qnap-a za tę awarię, bo nie wiem na 100% co ją spowodowało, ale jak pamiętam to qnap nie wstał po aktualizacji.
Może coś rzeczywiście skopało się z dyskami, ale nie wiem.
To było wieczorem i nie specjalnie się tym przejmowałem, bo qnap już raz wypuścił aktualizacje jakieś aplikacji która zawiesiła serwer wielu osobom i wystarczyło go zrestartować. To było pół roku temu.
Jeżeli chodzi o UPS to go mam, ale taki jak to mówisz za 200 - 300 zł Cyberpower. Niemniej sprawdził się przy kilku padnięciach prądu, a wtedy raczej nie było burzy ani padnięcia prądu.
Ogólnie nie wiedziałem że cache read-write jest taki podatny na uszkodzenia a używałem go właśnie do edycji video więc zależało mi na tej szybkości.
Wręcz przeciwnie myślalem że jak jest raid to raczej zawsze powinno się dać dane odzyskać nawet jak coś się stanie.
Połączono posty:

No i to sprawa dla dyskow na m2 sie troche komplikuje, bo jak chcesz to podpiac? Przez kieszen m2 sata >USB? Jestes pewny ze tutaj kontroler obudowy nie bedzie mial wplywu?
Czy kombinacja pod tytulem taki adapter?
https://allegro.pl/oferta/dual-m-2-adapter-pcie-ngff-ssd-kontroler-hosta-12688324960
Powiedzmy że mogę zrobić każdą możliwość. moze być adapter do zwykłego sata albo taki jak pokazałeś karta do PCI
Połączono posty:

Tzn. moim zdaniem powinien odpalic PC z Ubuntu i zapiąć te wszystkie dyski. Mam naprawdę świetnych inżynierów, ale musze mieć pełny dostęp do roota i dostęp via SSH do tego Ubuntu (przekierowane porty).
Natomiast tak jak mówie - pula dyskowa + raid same sie nie wywalily.
Będę musiał przekierować porty na routerze?
 
Powiedzmy że mogę zrobić każdą możliwość. moze być adapter do zwykłego sata albo taki jak pokazałeś karta do PCI
IMO opcja z adapterami jest lepsza, z tym ze tutaj tez trzeba zrobic rozeznanie w temacie co dokladnie kupic.
Będę musiał przekierować porty na routerze?
Generalnie tak, chyba ze chlopaki wpadna na pomsyl sesji zdalnej (przez Qnapa), a ze qnap w tej samej sieci to bedzie dostep :p
 
Nie chce obwiniać qnap-a za tę awarię, bo nie wiem na 100% co ją spowodowało, ale jak pamiętam to qnap nie wstał po aktualizacji.
FYI: Jeśli QNAP nie wstaje po aktualizacji, to udajemy skruchę zawsze, natomiast okazuje się, że wina leży zawsze gdzieś z jakimś dyskiem twardym.

Faktycznie zdarza się tak, że czasem config QNAP ma prawo się wywalić, albo się wywala, wtedy bootujemy system bez dysków i przywracamy config z backupu. Backup configu zapisuje się przez cały rok - raz w tygodniu.

W przypadku Twojej konfiguracji nie da się wykonać takich czynności.

M.2 nie jest Hot swap.

Ale wiesz, zawsze możesz spróbować zbootować system bez dysków na własną ręką i energicznym ruchem, precyzyjnie włożyć M.2 do slota. Tylko czy wtedy nie uwalisz całkiem, któregoś z dysku?
Na NVMe bym Ci tego nie proponował, ale Ty masz chyba M.2 SSD więc nie wiem.

Jeżeli chodzi o UPS to go mam, ale taki jak to mówisz za 200 - 300 zł Cyberpower.
Cyberpower powinien być okay.

Ogólnie nie wiedziałem że cache read-write
Heh :) To wyobraź sobie ze ja miałem maszyne wirtualną z tym forum... i poszlo się wszystko je....ć.
Dobrze ze mialem backup, ktory byl nie wiem... z przed pol roku...
jakoś dostalem się do tej maszyny wirtualnej, skopiowałem tylko nowe pliki, do tej starej maszyny, cale szczescie w inne miejsce robil sie zrzut mysqla raz w tygodniu w inne misjce.
Pomimo przywrocenia, brakowało w postach załączników i treści przez ok tydzien. Udało się uratować. Ale straciłem bite dwa tygodnie.

Będę musiał przekierować porty na routerze?
W sytuacji, w której jestes raczej każdy tutaj Ci pomoze jesli tego nie potrafisz. Ale tak, port SSH trzeba przekierować. Np. 38822 na 22 do Twojego serwera. Zacznij od instalacji Ubuntu. Nie znam się jak zapiąć dyski M.2 SSD (aż 3 sztuki) ale raczej do jakiegoś kontrolera na PCI.

@pigers @Pawliko @Ice
oni pomogą w tej kwestii.

Ja się nie znam, nie używam M.2 produkcyjnie. Moim zdaniem to jest rozwiązanie desktop.
 
Dlatego do gry wychodzi Hero i ZFS. Ja wiem że niektórzy się boją go jak ognia ale ten system to właśnie ogień🔥🔥🔥🔥
 
IMO opcja z adapterami jest lepsza, z tym ze tutaj tez trzeba zrobic rozeznanie w temacie co dokladnie kupic.

Generalnie tak, chyba ze chlopaki wpadna na pomsyl sesji zdalnej (przez Qnapa), a ze qnap w tej samej sieci to bedzie dostep :p
Mogę jeszcze użyć czegoś takiego i podłączyć pod standardowe na standardowy kabel sata:
https://allegro.pl/oferta/adapter-ide-sata-digitus-da-71118-12776190173
Mam taki adapter pod reką
Natomiast opcja z karta PCI wydaje się lepsza tylko pytanie, czy znajdę karte która ma 3-4 wejścia, bo na razie widzę tylko 2 więc może będzie trzeba zrobić kombinacje 2 metod.
 
to ja mam pytanie z 5 pkt
kto wie jak QNAPowa implementacja cache R/W wpływa na dane na RAID5 ?
ja : NIE MA POJECIA.

moim zdaniem: dyski do R-Studio i ściąganie obrazów.
Przerasta to ciebie ? to niech firma typu ontrack się tym zajmuje.
 
Według specyfikacji tak 6. Chyba że są one jakoś dzielone z PCI.
Dlatego można by zrobić 4 sata i ta kartę z PCI.
Tutaj specyfikacja mojej płyty:
PRIME B350-PLUS - Tech Specs|Motherboards|ASUS Global
Miej to na uwadze ze jak masz wsadzony dysk do slotu m2, to automatycznie 2 porty sata sa off.
8ERdUUT.png

Wiec w gre wchodzi podlaczenie 6x SATA + zbootowanie linuxa z pendriva. Co generalnie jest dobrym pomyslem.
 
Miej to na uwadze ze jak masz wsadzony dysk do slotu m2, to automatycznie 2 porty sata sa off.
Pokaż załącznik 41285
Wiec w gre wchodzi podlaczenie 6x SATA + zbootowanie linuxa z pendriva. Co generalnie jest dobrym pomyslem.
Dzięki że to znalazłeś coś mi świtało że te sata nie zawsze działają. Teraz mam system na nvme, ale na czas analizy mogę go wyjąć.
Więc jest ogólnie opcja że mogę zrobić:
1: 6 dysków do sata (3 hdd i 3 ssd przez adaptery 2.5 cala) + ubuntu z pendriva.
2: 4 dyski sata (3 hdd i 1 ssd przez adapter 2.5 cala), 2 dyski m.2 przez kartę PCI i z piątego sata mogę odpalić ubuntu z dysku ssd sata 2.5 cala.
 
@Silas Mariusz
Daj znać jak będzie wyglądała sytuacja z supportem. Czy mam coś do nich jeszcze pisać, czy ty już wewnętrznie załatwisz?
Na koniec tygodnia roboczego mogę zorganizować PC z ubuntu i adapterami.
Jest weekend, odpisz na ta wiadomość jutro/we wtorek. Przypomnij się.
 

Użytkownicy znaleźli tą stronę używając tych słów:

  1. r-studio
  2. wireshark
  3. odzyskiwanie danych
  4. odzyskanie danych
  5. jak odzyskać dane
  6. hybrid
  7. r-studio*
  8. ts-332x
  9. nie mogę połączyć się z serwerem
  10. ssd cache write read
  11. r studio i raid
  12. teamviewer
  13. przełożenie dysków
  14. awaria qnap
  15. raid
  16. cache qnap
  17. awaria dysków
  18. odzyskiwanie
  19. qnap nie wstaje