Obsługiwane produkty
Qsirch 6.0.0 (lub nowszy) na wszystkich platformach
Wyszukiwanie RAG w Qsirch z chmurowymi i lokalnymi modelami LLM
Qsirch obsługuje korzystanie z Retrieval-Augmented Generation (RAG) z chmurowymi dużymi modelami językowymi (LLM) w celu dostarczania dokładnych i kontekstowych odpowiedzi. Po wprowadzeniu zapytania Qsirch pobiera odpowiednie dokumenty z serwera NAS i wykorzystuje je jako kontekst dla modelu językowego. To połączenie wyszukiwania i generatywnej sztucznej inteligencji umożliwia Qsirch generowanie precyzyjnych i opartych na danych odpowiedzi na podstawie własnych danych.
Qsirch obsługuje również konwersacje wieloetapowe, umożliwiając naturalne i kontekstowe interakcje. Użytkownicy mogą zadawać pytania uzupełniające bez powtarzania wcześniejszego kontekstu, a kontekst jest zachowywany w kolejnych etapach, co zapewnia spójne odpowiedzi. Obsługa konwersacji wieloetapowych działa zarówno w trybach RAG w chmurze, jak i lokalnych.
Integracja RAG z chmurowymi usługami AI
Aby zintegrować wyszukiwanie RAG, należy najpierw uzyskać klucz API od wybranej usługi AI.
ChatGPT (OpenAI API)
ChatGPT (OpenAI API) zapewnia potężne modele GPT zarówno do osadzania RAG, jak i do generowania odpowiedzi. Wykonaj poniższe kroki, aby uzyskać klucz API:
Azure OpenAI
Azure OpenAI zapewnia dostęp do modeli OpenAI (takich jak GPT-4.1) za pośrednictwem infrastruktury Azure, co jest idealne dla rozwiązań korporacyjnych. Wykonaj poniższe kroki, aby uzyskać klucz API:
Gemini (Google Cloud AI)
Gemini (Google Cloud AI) zapewnia zestaw modeli zaprojektowanych do wnioskowania o wysokiej wydajności i RAG. Wykonaj poniższe kroki, aby uzyskać klucz API:
OpenAI-Compatible API
OpenAI Compatible API umożliwia użytkownikom dostęp do różnych modeli AI poza ofertą OpenAI, w tym modeli takich jak DeepSeek i Grok, przy użyciu tego samego formatu API. Umożliwia to bezproblemową integrację z istniejącymi aplikacjami zbudowanymi dla OpenAI API. Wykonaj poniższe kroki, aby uzyskać klucz API:
Lokalne wyszukiwanie RAG
Dla zaawansowanych użytkowników i przedsiębiorstw, którzy wymagają pełnej prywatności danych lub możliwości AI offline, Qsirch oferuje lokalne wyszukiwanie RAG zasilane przez lokalnie hostowane LLM. Ten tryb działa w całości na serwerze NAS lub podłączonym sprzęcie, bez wysyłania danych do usług zewnętrznych.
UwagaTa funkcja jest dostępna tylko w wybranych modelach NAS. Szczegółowe informacje można znaleźć w wprowadzeniu do wyszukiwania RAG na stronie internetowej QNAP.Aby włączyć lokalny RAG:
Jak używać wyszukiwania RAG w Qsirch
Qsirch 6.0.0 (lub nowszy) na wszystkich platformach
Wyszukiwanie RAG w Qsirch z chmurowymi i lokalnymi modelami LLM
Qsirch obsługuje korzystanie z Retrieval-Augmented Generation (RAG) z chmurowymi dużymi modelami językowymi (LLM) w celu dostarczania dokładnych i kontekstowych odpowiedzi. Po wprowadzeniu zapytania Qsirch pobiera odpowiednie dokumenty z serwera NAS i wykorzystuje je jako kontekst dla modelu językowego. To połączenie wyszukiwania i generatywnej sztucznej inteligencji umożliwia Qsirch generowanie precyzyjnych i opartych na danych odpowiedzi na podstawie własnych danych.
Qsirch obsługuje również konwersacje wieloetapowe, umożliwiając naturalne i kontekstowe interakcje. Użytkownicy mogą zadawać pytania uzupełniające bez powtarzania wcześniejszego kontekstu, a kontekst jest zachowywany w kolejnych etapach, co zapewnia spójne odpowiedzi. Obsługa konwersacji wieloetapowych działa zarówno w trybach RAG w chmurze, jak i lokalnych.
Integracja RAG z chmurowymi usługami AI
Aby zintegrować wyszukiwanie RAG, należy najpierw uzyskać klucz API od wybranej usługi AI.
ChatGPT (OpenAI API)
ChatGPT (OpenAI API) zapewnia potężne modele GPT zarówno do osadzania RAG, jak i do generowania odpowiedzi. Wykonaj poniższe kroki, aby uzyskać klucz API:
- Zarejestruj się, aby utworzyć konto w OpenAI: https://auth.openai.com/create-account
- Utwórz klucz API w ustawieniach konta.
Azure OpenAI
Azure OpenAI zapewnia dostęp do modeli OpenAI (takich jak GPT-4.1) za pośrednictwem infrastruktury Azure, co jest idealne dla rozwiązań korporacyjnych. Wykonaj poniższe kroki, aby uzyskać klucz API:
- Zaloguj się do Azure Portal.
- Wybierz swój zasób OpenAI (lub utwórz nowy, jeśli jeszcze go nie masz).
- W menu po lewej stronie kliknij Keys and Endpoint.
- Skopiuj klucz API i skopiuj punkt końcowy (podstawowy adres URL) dla żądań API.
Gemini (Google Cloud AI)
Gemini (Google Cloud AI) zapewnia zestaw modeli zaprojektowanych do wnioskowania o wysokiej wydajności i RAG. Wykonaj poniższe kroki, aby uzyskać klucz API:
- Odwiedź 使用 Gemini API 金鑰 | Google AI for DevelopersGoogle Gemini API Documentation.
- Uzyskaj klucz API Gemini w Google AI Studio.
- Zaloguj się na swoje konto Google.
- Kliknij Create API key.
OpenAI-Compatible API
OpenAI Compatible API umożliwia użytkownikom dostęp do różnych modeli AI poza ofertą OpenAI, w tym modeli takich jak DeepSeek i Grok, przy użyciu tego samego formatu API. Umożliwia to bezproblemową integrację z istniejącymi aplikacjami zbudowanymi dla OpenAI API. Wykonaj poniższe kroki, aby uzyskać klucz API:
- Wybierz dostawcę obsługującego OpenAI-compatible API (na przykład DeepSeek lub Grok).
- Zarejestruj się na platformie dostawcy.
- Wygeneruj klucz API w ustawieniach konta.
- W razie potrzeby zaktualizuj punkt końcowy API i ustawienia modelu.
Lokalne wyszukiwanie RAG
Dla zaawansowanych użytkowników i przedsiębiorstw, którzy wymagają pełnej prywatności danych lub możliwości AI offline, Qsirch oferuje lokalne wyszukiwanie RAG zasilane przez lokalnie hostowane LLM. Ten tryb działa w całości na serwerze NAS lub podłączonym sprzęcie, bez wysyłania danych do usług zewnętrznych.
UwagaTa funkcja jest dostępna tylko w wybranych modelach NAS. Szczegółowe informacje można znaleźć w wprowadzeniu do wyszukiwania RAG na stronie internetowej QNAP.Aby włączyć lokalny RAG:
- Upewnij się, że LLM Core jest gotowy.
- Ustaw GPU w trybie Container Station (Przejdź do Panel sterowania > Sprzęt > Zasoby sprzętowe > Użycie zasobów > Tryb Container Station).
Jak używać wyszukiwania RAG w Qsirch
- Przejdź do Ustawienia > Ustawienia administracyjne > Wyszukiwanie RAG.
- Dodaj jedną lub więcej usług chmurowych, aby korzystać z wyszukiwania RAG.
- (Opcjonalnie) Zweryfikuj swój klucz API. Pomaga to sprawdzić, czy klucz API jest prawidłowy.
- Pobierz jeden lub więcej modeli brzegowych z usług lokalnych. Ta funkcja może być używana tylko w określonych modelach NAS.
- Dodaj więcej modeli AI zgodnych z OpenAI API, w tym serie GPT, modele DeepSeek i modele Grok.
- Wybierz formaty plików dla wyszukiwania RAG.
- Przejdź do strony głównej Qsirch i kliknij przycisk wyszukiwania RAG.
- Wyszukiwanie RAG w Qsirch będzie używać tylko plików zawartych w "Źródle" do pobierania danych.
- Zaznacz model, którego chcesz użyć, a następnie rozpocznij korzystanie z wyszukiwania RAG.