Pomoc Nvidia Quadro RTX4000 SFF 20Gb

[grisza]

Witam,

W dobie rozwoju różnych modeli AI postanowiłem bliżej zainteresować się tematem i uruchomić lokalnie własny, trenowany model. Korzystam z QNAP-a, który po lekkim tuningu działa wyśmienicie — brakuje mi jedynie karty graficznej do finalnej konfiguracji.

Mój model to TVS-672XT z wymienionym procesorem na i7-8700T oraz 64 GB RAM. Postanowiłem pójść na całość i wybrać najmocniejszą kartę, która zmieści się w obudowie i nie będzie wymagała przeróbek zasilania.
Padło na NVIDIA Quadro RTX 4000 SFF 20 GB, ponieważ realnie nie ma wielu alternatyw w tym segmencie. Taka ilość pamięci pozwala już na uruchamianie i trenowanie większych modeli.

Moje pytanie: czy ta karta będzie działać z aktualnymi sterownikami v5.2.0.1225 z dnia 2025/01/24?
Alternatywą może być NVIDIA RTX A2000 12 GB GDDR6, która — na podstawie dostępnych informacji z forów (również tego) — działa bez problemów.
Zależy mi przede wszystkim na wsparciu dla VM Station i Dockera – reszta ma drugorzędne znaczenie.
Czy ktoś ma jakieś porady, zalecenia lub aktualne informacje na ten temat?
Pozdrawiam,
Grzegorz

 

[Silas Mariusz]

Z tego co pamiętam kartę będziesz mógł przypisać do konkretnej maszyny wirtualnej ale nie będziesz jej współdzielić z innymi aplikacjami na przykład w dockerze. Ponadto jedyna rzecz która musi cię w tej sytuacji zainteresować to tylko i wyłącznie zasilanie - to czy zasilacz który jest w QNAP wystarczy aby pociągnąć cały system i tą kartę graficzną. Jeśli tak to nie musisz się prawie niczego obawiać i karta powinna działać bezproblemowo w maszynie wirtualnej w trybie passthrough. Natomiast działanie karty w całym systemie i współdzielić ją jeszcze z innymi aplikacjami to już jest kwestia kompatybilności. Jeśli oficjalnie firma QNAP nie podaje dla twojego modelu NAS tej karty jako kompatybilnej to może nie działać.

 

[SiewcaRyżu]

w przypadku QNAPa - albo docker albo VMka - nie ma robienia GPU split
reszta - no cóż - jak nie ma liście , tzn że może zadziałać ale nie musi
no i jesteś pewien że zasilacz Q udźwignie tą grafikę w 100% ?

generalnie to trenowania AI postaw sobie jakiegoś kompa SFF i tam ćwicz.

 

[grisza]

Dzięki za odzew!

Tak, sprawdzałem wydajność prądową — nawet przy maksymalnym obciążeniu mam jeszcze zapas grubo ponad 50 W. Zasilacz jest 250-watowy.
Załączam podsumowanie, gdyby coś mi jednak umknęło.
Karta nie ma obecnie oficjalnego wsparcia od QNAP-a, ale z tego co piszecie, nie potrzeba nic więcej poza działającym passthrough na wskazaną VM.
Trochę się obawiam tego zakupu, bo to spory wydatek, a jeśli karta nie zadziała zgodnie z moimi założeniami, będzie problem.

Macie może jakieś 100% potwierdzone źródło, że wszystko działa tak, jak opisujecie?

 

[SiewcaRyżu]

Macie może jakieś 100% potwierdzone źródło, że wszystko działa tak, jak opisujecie?

NIE.

i dziękujemy za testy :*

 

[Silas Mariusz]

Trochę się obawiam tego zakupu, bo to spory wydatek, a jeśli karta nie zadziała zgodnie z moimi założeniami, będzie problem.

Karta nie ma obecnie oficjalnego wsparcia od QNAP-a

Jestę testerę