Wiedza Jak skonfigurować i zweryfikować NFS over RDMA z QNAP NAS i Ubuntu?

Obsługiwane produkty​


  • Modele QNAP NAS z wbudowanym interfejsem sieciowym RoCEv2
  • Obsługiwane karty rozszerzeń:
    • QXG-100G2SF-BCM

Informacje o zgodności można sprawdzić na stronie internetowej QNAP.



Scenariusz​


W tym samouczku pokazano, jak skonfigurować i przetestować NFS over RDMA między urządzeniem QNAP NAS a systemem Ubuntu. Po włączeniu RDMA weryfikujemy ścieżkę RDMA, montujemy udział NFS przy użyciu RDMA i oceniamy wydajność za pomocą fio.



Wymagania wstępne​


  • Zarówno NAS, jak i host Ubuntu są połączone przez sieć obsługującą RDMA (RoCEv2)
  • Sterowniki i narzędzia RDMA zainstalowane w Ubuntu
  • Usługa NFS włączona na urządzeniu QNAP NAS



Procedura​


Krok 1: Włączanie NFS over RDMA na urządzeniu QNAP NAS​


  1. Zaloguj się do urządzenia QNAP NAS.
  2. Przejdź do Panelu sterowania.
  3. Przejdź do Sieć i usługi plików → Win/Mac/NFS/WebDAV.
  4. Przejdź do karty Usługa NFS.
  5. Zaznacz opcję Włącz usługę sieciowego systemu plików (NFS).
  6. Wybierz wersję.
  7. Włącz opcję NFS over RDMA (szybki transfer danych).
  8. Kliknij Zastosuj.

258d91597fc8d47e903275f2e8eaef23.png


Krok 2: Konfigurowanie uprawnień do folderu udostępnionego NFS​


  1. Przejdź do Panel sterowania → Uprawnienia → Foldery udostępnione.
  2. Wybierz docelowy folder udostępniony.
  3. Edytuj Dostęp hosta NFS.
  4. Zezwól na dostęp z adresu IP klienta Ubuntu z odpowiednimi uprawnieniami do odczytu/zapisu.

c0f310ac2396148e256bb368af2d0634.png


Krok 3: Instalowanie usług NFS i RDMA oraz weryfikacja stanu RDMA w Ubuntu​


Instalacja usługi NFS i RDMA:

sudo apt update
sudo apt install -y nfs-common rdma-core

0bfd176ae04d416dab8a96d28cfbf7b7.png


Sprawdzenie stanu łącza RDMA:

rdma link

Weryfikacja informacji o urządzeniu RDMA:

ibv_devinfo

Upewnij się, że stan urządzenia to ACTIVE, a warstwa łącza to Ethernet.

2232f6524270f838e7be90af105e4f35.png


Krok 4: Montowanie udziału NFS przy użyciu RDMA​


sudo mount -t nfs -o rdma,vers=<NFS_VER>,proto=rdma <NAS_IP>:/<SHARE_NAME> <MOUNT_POINT>

Zastąp <NFS_VER>, <NAS_IP>, <SHARE_NAME> i <MOUNT_POINT> wartościami odpowiednimi dla swojego środowiska.

Weryfikacja, czy montowanie korzysta z RDMA:

nfsstat -m

Sprawdź, czy w danych wyjściowych pojawia się proto=rdma.

81b76c83088b6a88c8013924eb42f743.png


Krok 5: Przeprowadzanie testów wydajności za pomocą fio​


Instalacja fio​


sudo apt install -y fio

Szablon testu fio (konfigurowalny przez użytkownika)​


fio --name=<JOB_NAME> --filename=<TEST_FILE> --size=<SIZE> --rw=<RW_TYPE> --bs=<BLOCK_SIZE> --iodepth=<IO_DEPTH> --numjobs=<NUM_JOBS> --direct=1 --time_based --runtime=<SECONDS>

Przykład testu sekwencyjnego zapisu:

fio --name=seqwrite --filename=fio_seqwrite.bin --size=20G --rw=write --bs=1M --iodepth=32 --numjobs=1 --direct=1 --time_based --runtime=60

Przykład testu losowego odczytu/zapisu:

fio --name=randrw --filename=fio_randrw.bin --size=20G --rw=randrw --rwmixread=70 --bs=4k --iodepth=64 --numjobs=4 --direct=1 --time_based --runtime=60

e12df2a76993cfca73171009ef20170d.png


Wyniki​


  • Losowy zapis IOPS wzrósł po włączeniu RDMA.
  • Na kliencie Ubuntu zaobserwowano mniejsze obciążenie procesora.
  • Ruch sieciowy nie pojawia się na wykresach sieci w QNAP Resource Monitor, ponieważ RDMA omija tradycyjny stos TCP/IP.

3b0f28a4751c891e3df9c3912a0ccb3b.png


b351870233da5b34ddb5ffcd36f98d78.png


Porównanie wydajności​


Metoda testowaniaNFS over RDMANFS bez RDMARóżnica
fio / 4k losowy RW2979 IOPS1837 IOPS+62%

Uwaga: Wyniki testów zależą od platformy i konfiguracji sprzętowej. Przedstawione dane mają wyłącznie charakter poglądowy.

29aeae482351d02b549f951436157ecd.png


b0bbc3d62635112fce2c7b3e69f8a4d9.png


uwaga
  • Wydajność NFS over RDMA zależy od karty sieciowej, przełącznika i wydajności pamięci masowej.
  • Upewnij się, że sieć RoCEv2 jest prawidłowo skonfigurowana (np. PFC, ECN — jeśli wymagane).
  • Ta funkcja jest przeznaczona dla zaawansowanych środowisk lub środowisk korporacyjnych.