Instrukcja obsługi Samouczek narzędzia OpenVINO™ Workflow Consolidation Tool

Informacje​

OpenVINO™ Workflow Consolidation Tool (OWCT) to narzędzie do głębokiego uczenia służące do konwertowania wytrenowanych modeli na silniki wnioskowania akcelerowane przez zestaw narzędzi Intel® Distribution of OpenVINO™. Silniki wnioskowania umożliwiają weryfikację wyników wnioskowania wytrenowanych modeli.

Zestaw narzędzi Intel® Distribution of OpenVINO™ oparty jest na konwolucyjnych sieciach neuronowych (CNN). Zestaw narzędzi rozszerza obciążenia robocze na akceleratory sprzętowe Intel®, aby zmaksymalizować wydajność.
Narzędzie OWCT można zainstalować z App Center w systemie QTS. Uwaga:
Aby korzystać z narzędzia OWCT, musi być zainstalowana aplikacja Container Station.

• Zgodność
• Akceleratory sprzętowe
• Tworzenie silników wnioskowania
• Używanie wizji komputerowej z silnikami wnioskowania
• Zarządzanie silnikami wnioskowania

Zgodność​

Platforma	Obsługa
Modele NAS	TVS-x72XT Uwaga: Model TVS-x72XT nie obsługuje kart FPGA (field-programmable gate array) jako akceleratorów sprzętowych. TVS-x72XU TS-2888X Uwaga: Narzędzie OpenVINO™ Workflow Consolidation Tool obsługują wyłącznie modele NAS oparte na procesorach Intel.
System operacyjny	QTS 4.4
Wersja zestawu narzędzi Intel® Distribution of OpenVINO™	2018R5 Szczegółowe informacje można znaleźć pod adresem Release Notes for Intel® Distribution of OpenVINO™ Toolkit 2022.

Akceleratory sprzętowe​

Akceleratory sprzętowe zainstalowane w urządzeniu NAS można wykorzystać do poprawy wydajności silników wnioskowania.

Akceleratory sprzętowe zainstalowane w urządzeniu NAS są wyświetlane na ekranie głównym.

Akceleratory sprzętowe ze statusem Gotowy mogą być używane podczas tworzenia silników wnioskowania.

Jeśli wyświetlany jest status Ustawienia, należy przejść do Panelu sterowania > System > Sprzęt > Karta graficzna, aby skonfigurować akcelerator sprzętowy.
Uwaga:

• Aby używać kart FPGA (field-programmable gate array) w urządzeniu NAS firmy QNAP, należy wyłączyć przekazywanie maszyny wirtualnej (VM pass-through).
• Każdy zasób FPGA może tworzyć jeden silnik wnioskowania.
• Każdy zasób VPU (vision processing unit) może tworzyć jeden silnik wnioskowania.

Tworzenie silników wnioskowania​

Narzędzie OWCT służy do tworzenia silników wnioskowania i konfigurowania parametrów wnioskowania.

1. Otwórz narzędzie OWCT.
2. Kliknij + OpenVINO™ Engine.
   
   
   
   
   Pojawi się okno Utwórz nowy silnik wnioskowania OpenVINO™.
   
   
   
3. Wybierz model wnioskowania.
   
   
4. Kliknij Dalej.
5. Skonfiguruj model wnioskowania.
   

   Pole	Opis
   Nazwa	Wprowadź nazwę składającą się z 2 do 50 znaków.
   Model wnioskowania	Wyświetla typ modelu wnioskowania.
   Typ wnioskowania	Wybierz typ wnioskowania dla swojego modelu.
   Plik wstępnie wytrenowanego modelu Intel®	Wybierz plik wstępnie wytrenowanego modelu. Wskazówka: Kliknij Przewodnik, aby wyświetlić informacje o wybranym modelu.
   Typ źródła	Wybierz typ pliku źródłowego do przesłania do silnika wnioskowania.
   Akcelerator/Precyzja	Wybierz akcelerator sprzętowy i poziom precyzji, które będą miały wpływ na czas trwania i dokładność wnioskowania.

   
   

   Pole	Opis
   Nazwa	Wprowadź nazwę składającą się z 2 do 50 znaków.
   Model wnioskowania	Wyświetla typ modelu wnioskowania.
   Typ wnioskowania	Wybierz typ wnioskowania dla swojego modelu.
   Typ źródła	Wybierz typ pliku źródłowego do przesłania do silnika wnioskowania.
   Akcelerator	Wybierz akcelerator sprzętowy, który będzie określać prędkość przetwarzania, gdy silnik wnioskowania korzysta z innego urządzenia.
   Precyzja	Wybierz poziom precyzji, który będzie określać czas trwania i dokładność wnioskowania.
   Bitstream (tylko FPGA)	Wybierz plik obliczeniowy dla urządzenia FPGA.
   Framework	Wybierz framework dla swojego modelu wnioskowania. Uwaga: Narzędzie OWCT obsługuje obecnie frameworki Tensorflow i Caffe.
   Pliki modelu	Wybierz pliki modelu dla swojego modelu wnioskowania. W zależności od frameworka należy przesłać określone typy plików: Tensorflow: .pf, .config Caffe: .caffemodel, .prototxt
   Plik etykiet (opcjonalny)	Wszystkie wykryte obiekty będą wyświetlane podczas wnioskowania.
   Argumenty (opcjonalne)	Dodaj argumenty do swojego silnika wnioskowania.

6. Kliknij Dalej.
7. Sprawdź podsumowanie.
8. Kliknij Utwórz.

Narzędzie OWCT tworzy silnik wnioskowania i wyświetla go na ekranie Zdarzenia wnioskowania.

Używanie wizji komputerowej z silnikami wnioskowania​

1. Otwórz narzędzie OWCT.
2. Przejdź do ekranu Zdarzenia wnioskowania.
   
   
3. Upewnij się, że status docelowego silnika wnioskowania to Gotowy.
   
   
4. Kliknij łącze znajdujące się pod nazwą silnika wnioskowania.
   
   
   
   
   Okno Wykrywanie obiektów otworzy się w nowej karcie.
   
   
   
5. Kliknij Prześlij.
   
   
   
   Pojawi się okno Wybierz plik.
   
   
6. Wybierz plik.
7. Kliknij Prześlij.
   Rozpocznie się proces wnioskowania z wykrywaniem obiektów.
8. Po zakończeniu wnioskowania kliknij Pobierz.
   
   
   
   Pojawi się okno Wybierz folder.
9. Wybierz folder, w którym chcesz zapisać wynik wnioskowania.
10. Kliknij Zapisz.

Zarządzanie silnikami wnioskowania​

Silnikami wnioskowania można przeglądać i zarządzać na ekranie Zdarzenia wnioskowania.

Przycisk	Opis
	Uruchamia proces wnioskowania.
	Zatrzymuje proces wnioskowania.
	Wyświetla szczegóły i status dziennika silnika wnioskowania.
	Zapisuje silnik wnioskowania jako plik reprezentacji pośredniej (IR) do zaawansowanych zastosowań.
	Usuwa silnik wnioskowania.