Qsirch 6.0.0
Obsługiwane oprogramowanie układowe:
Qsirch to zaawansowana wyszukiwarka stworzona wyłącznie z myślą o serwerach QNAP NAS, umożliwiająca użytkownikom szybkie odnajdywanie plików i informacji.
Qsirch 6.0 wprowadza obsługę lokalnych modeli LLM z wyszukiwaniem RAG oraz wielowątkowych konwersacji RAG, oferując inteligentniejsze i kontekstowe możliwości wyszukiwania, przy jednoczesnym zachowaniu bezpieczeństwa i prywatności danych.
Obsługiwane oprogramowanie układowe:
- QTS 5.1.0 lub nowszy
- QuTS hero 5.1.0 lub nowszy
- QuTScloud 5.1.0 lub nowszy
Informacje ogólne
Qsirch to zaawansowana wyszukiwarka stworzona wyłącznie z myślą o serwerach QNAP NAS, umożliwiająca użytkownikom szybkie odnajdywanie plików i informacji.
Qsirch 6.0 wprowadza obsługę lokalnych modeli LLM z wyszukiwaniem RAG oraz wielowątkowych konwersacji RAG, oferując inteligentniejsze i kontekstowe możliwości wyszukiwania, przy jednoczesnym zachowaniu bezpieczeństwa i prywatności danych.
Najczęściej zadawane pytania
Nie. Całe przetwarzanie danych, analiza oraz wnioskowanie LLM odbywają się lokalnie w systemie NAS. Żadne treści nie są przesyłane ani udostępniane na zewnątrz, co zapewnia prywatność i bezpieczeństwo danych.
Nie. Wnioskowanie lokalnego modelu LLM wymaga obliczeń realizowanych przez GPU. Bez karty GPU można połączyć się z chmurowym modelem LLM za pośrednictwem API w celu wyszukiwania RAG i nadal korzystać z wyszukiwania wspomaganego sztuczną inteligencją.
Tak. Jeśli serwer NAS spełnia wymagania sprzętowe dla lokalnego modelu LLM, a model został pobrany, oraz jeśli dodatkowo połączysz się z chmurowym modelem LLM poprzez API, możesz swobodnie przełączać się między źródłami modeli podczas wyszukiwania RAG.
Zależy to od rozmiaru modelu. Pliki modeli LLM zwykle mają rozmiar od kilku do kilkudziesięciu GB. Zaleca się przechowywanie modeli na dyskach SSD w celu zmniejszenia opóźnień ładowania i wnioskowania.
Wielowątkowa konwersacja RAG umożliwia sztucznej inteligencji zachowanie kontekstu bieżącej rozmowy oraz dostarczanie kolejnych analiz i odpowiedzi na podstawie wcześniejszych wyników wyszukiwania, bez konieczności ponownego wpisywania pełnego zapytania przez użytkownika.
System przechowuje określoną liczbę historii wielowątkowych konwersacji do przyszłych odwołań i wyszukiwań. Po przekroczeniu limitu pamięci starsze rekordy są automatycznie usuwane na podstawie daty ostatniej modyfikacji, aby zapewnić wydajność i płynne działanie systemu.
Im więcej konwersacji i im dłuższy kontekst, tym więcej zasobów systemowych jest wymaganych. W typowych scenariuszach użytkowania wpływ ten jest minimalny. Jednak w przypadku obsługi dużej liczby plików lub wielu jednoczesnych wyszukiwań czas odpowiedzi może ulec wydłużeniu. Zalecamy korzystanie z wielowątkowych konwersacji wtedy, gdy dostępne są wystarczające zasoby sprzętowe (zwłaszcza GPU/VRAM), aby zapewnić najlepsze wrażenia z użytkowania.
Tak. Domyślnym zakresem wyszukiwania jest „Wyszukiwanie globalne". Po wybraniu opcji „Wyszukiwanie w określonym folderze" należy wybrać co najmniej 1 folder, a maksymalnie można wybrać 50 folderów.
Nie. Każdy serwer NAS musi niezależnie wdrożyć i pobrać model. Plików modeli nie można bezpośrednio współdzielić między serwerami NAS.
Modele chmurowe są aktualizowane wraz z aktualizacjami wersji Qsirch. Modele lokalne są aktualizowane wraz z LLM Core w regularnych odstępach czasu. Aby uniknąć problemów z wydajnością lub kompatybilnością wynikających ze zmian wersji, użytkownicy muszą pobrać nową wersję Qsirch lub LLM Core.
Tak, jednak zaszyfrowane foldery muszą zostać odblokowane przed wyszukiwaniem; w przeciwnym razie system nie będzie miał dostępu do ich zawartości. Każdy folder dostępny w Qsirch może być wykorzystany jako źródło wyszukiwania RAG.
Tak. Usługi chmurowego modelu LLM (takie jak OpenAI, Google Gemini itp.) są rozliczane zgodnie z polityką cenową API danego dostawcy. QNAP nie pobiera dodatkowych opłat za tę integrację.
Tak. Jeśli rozmiar lokalnego modelu przekracza dostępną pamięć karty GPU (VRAM), system nie będzie w stanie pomyślnie załadować modelu, co uniemożliwi uruchomienie tej funkcji. Aby zapewnić prawidłowe działanie, sprawdź, czy ilość pamięci VRAM karty GPU jest wystarczająca dla wybranego modelu. Jeśli zasoby są niewystarczające, rozważ przełączenie na mniejszy model lub modernizację karty GPU.