Qsirch 6.0.0 (lub nowszy) na wszystkich platformach
Qsirch obsługuje wyszukiwanie z wykorzystaniem technologii Retrieval-Augmented Generation (RAG) w połączeniu z chmurowymi dużymi modelami językowymi (LLM), zapewniając dokładne i kontekstowe odpowiedzi. Po wprowadzeniu zapytania Qsirch pobiera odpowiednie dokumenty z urządzenia NAS i wykorzystuje je jako kontekst dla modelu językowego. To połączenie wyszukiwania z generatywną sztuczną inteligencją umożliwia Qsirch generowanie precyzyjnych i rzetelnych odpowiedzi na podstawie własnych danych użytkownika.
Qsirch obsługuje również wieloturowe konwersacje, umożliwiając naturalne i kontekstowe interakcje. Użytkownicy mogą zadawać pytania uzupełniające bez powtarzania poprzedniego kontekstu, a kontekst jest zachowany przez kolejne tury, co zapewnia spójne odpowiedzi. Obsługa wieloturowych konwersacji działa zarówno w trybie chmurowym, jak i lokalnym RAG.
Aby zintegrować wyszukiwanie RAG, należy najpierw uzyskać klucz API od wybranej usługi AI.
Aby włączyć lokalne wyszukiwanie RAG:
Wyszukiwanie RAG w Qsirch z wykorzystaniem chmurowych i lokalnych modeli LLM
Qsirch obsługuje wyszukiwanie z wykorzystaniem technologii Retrieval-Augmented Generation (RAG) w połączeniu z chmurowymi dużymi modelami językowymi (LLM), zapewniając dokładne i kontekstowe odpowiedzi. Po wprowadzeniu zapytania Qsirch pobiera odpowiednie dokumenty z urządzenia NAS i wykorzystuje je jako kontekst dla modelu językowego. To połączenie wyszukiwania z generatywną sztuczną inteligencją umożliwia Qsirch generowanie precyzyjnych i rzetelnych odpowiedzi na podstawie własnych danych użytkownika.
Qsirch obsługuje również wieloturowe konwersacje, umożliwiając naturalne i kontekstowe interakcje. Użytkownicy mogą zadawać pytania uzupełniające bez powtarzania poprzedniego kontekstu, a kontekst jest zachowany przez kolejne tury, co zapewnia spójne odpowiedzi. Obsługa wieloturowych konwersacji działa zarówno w trybie chmurowym, jak i lokalnym RAG.
Integracja RAG z chmurowymi usługami AI
Aby zintegrować wyszukiwanie RAG, należy najpierw uzyskać klucz API od wybranej usługi AI.
ChatGPT (OpenAI API) udostępnia zaawansowane modele GPT zarówno do osadzania RAG, jak i do generowania odpowiedzi. Aby uzyskać klucz API, wykonaj poniższe kroki:
Więcej informacji można znaleźć w dokumentacji OpenAI API.
- Zarejestruj konto w OpenAI: https://auth.openai.com/create-account
- Utwórz klucz API w ustawieniach konta.
Więcej informacji można znaleźć w dokumentacji OpenAI API.
Azure OpenAI zapewnia dostęp do modeli OpenAI (takich jak GPT-4.1) za pośrednictwem infrastruktury Azure, co jest idealnym rozwiązaniem dla przedsiębiorstw. Aby uzyskać klucz API, wykonaj poniższe kroki:
Więcej informacji można znaleźć w dokumentacji Azure OpenAI.
- Zaloguj się do portalu Azure.
- Wybierz zasób OpenAI (lub utwórz go, jeśli jeszcze go nie masz).
- W lewym menu kliknij Klucze i punkt końcowy.
- Skopiuj klucz API oraz punkt końcowy (bazowy adres URL) dla żądań API.
Więcej informacji można znaleźć w dokumentacji Azure OpenAI.
Gemini (Google Cloud AI) oferuje zestaw modeli zaprojektowanych do wydajnego wnioskowania i obsługi RAG. Aby uzyskać klucz API, wykonaj poniższe kroki:
Więcej informacji można znaleźć w dokumentacji Google Cloud AI.
- Odwiedź stronę 使用 Gemini API 金鑰 | Google AI for Developersdokumentacji Google Gemini API.
- Uzyskaj klucz Gemini API w Google AI Studio.
- Zaloguj się na swoje konto Google.
- Kliknij Utwórz klucz API.
Więcej informacji można znaleźć w dokumentacji Google Cloud AI.
OpenAI Compatible API umożliwia użytkownikom dostęp do różnych modeli AI wykraczających poza ofertę OpenAI, w tym modeli takich jak DeepSeek i Grok, przy użyciu tego samego formatu API. Zapewnia to bezproblemową integrację z istniejącymi aplikacjami zbudowanymi dla OpenAI API. Aby uzyskać klucz API, wykonaj poniższe kroki:
Więcej informacji można znaleźć w oficjalnej dokumentacji API danego dostawcy.
- Wybierz dostawcę obsługującego API zgodne z OpenAI (na przykład DeepSeek lub Grok).
- Zarejestruj się na platformie wybranego dostawcy.
- Wygeneruj klucz API w ustawieniach konta.
- Zaktualizuj punkt końcowy API oraz ustawienia modelu zgodnie z wymaganiami.
Więcej informacji można znaleźć w oficjalnej dokumentacji API danego dostawcy.
Lokalne wyszukiwanie RAG
Dla zaawansowanych użytkowników i przedsiębiorstw wymagających pełnej prywatności danych lub możliwości działania AI w trybie offline, Qsirch oferuje lokalne wyszukiwanie RAG oparte na modelach LLM hostowanych lokalnie. Ten tryb działa w całości na urządzeniu NAS lub podłączonym sprzęcie, bez przesyłania danych do zewnętrznych usług.
uwaga
Ta funkcja jest dostępna tylko na wybranych modelach urządzeń NAS. Szczegółowe informacje można znaleźć we wprowadzeniu do wyszukiwania RAG na stronie internetowej QNAP.
Ta funkcja jest dostępna tylko na wybranych modelach urządzeń NAS. Szczegółowe informacje można znaleźć we wprowadzeniu do wyszukiwania RAG na stronie internetowej QNAP.
Aby włączyć lokalne wyszukiwanie RAG:
- Upewnij się, że LLM Core jest gotowy.
- Ustaw GPU w tryb Container Station (przejdź do Panel sterowania > Sprzęt > Zasoby sprzętowe > Użycie zasobów > Tryb Container Station).
Jak korzystać z wyszukiwania RAG w Qsirch
- Przejdź do Ustawienia > Ustawienia administracyjne > Wyszukiwanie RAG.
- Dodaj co najmniej jedną usługę chmurową, aby korzystać z wyszukiwania RAG.
- (Opcjonalnie) Zweryfikuj klucz API. Pozwala to sprawdzić, czy klucz API jest prawidłowy.
- Pobierz co najmniej jeden model krawędziowy z usług lokalnych. Ta funkcja jest dostępna tylko na wybranych modelach urządzeń NAS.
- Dodaj kolejne modele AI zgodne z OpenAI API, w tym modele z serii GPT, modele DeepSeek oraz modele Grok.
- Wybierz formaty plików dla wyszukiwania RAG.
- Przejdź na stronę główną Qsirch i kliknij przycisk wyszukiwania RAG.
- Wyszukiwanie RAG w Qsirch będzie pobierać dane wyłącznie z plików uwzględnionych w sekcji „Źródło".
- Zaznacz model, którego chcesz użyć, a następnie rozpocznij korzystanie z wyszukiwania RAG.