MEX-BTS – gdy wymagania aplikacji AI rosną razem z projektem

Projekt systemu machine vision lub Edge AI rzadko kończy się na wyborze odpowiedniego modelu sztucznej inteligencji. Do decyzji pozostają kwestie: gdzie będzie wykonywana inferencja, ile kamer ma obsługiwać system, jakiej mocy obliczeniowej potrzebuje aplikacja. A także czy przypadkiem wymagania nie wzrosną po kolejnej aktualizacji oprogramowania. AAEON MEX-BTS odpowiada na ten problem nie jedną, zamkniętą konfiguracją, lecz możliwościami dopasowania procesora i modułu GPU do konkretnego projektu.

Jeden system, różne wymagania obliczeniowe

W aplikacjach przemysłowych określenie „Edge AI” może oznaczać bardzo różne zadania. Raz będzie to klasyfikacja obrazu z jednej kamery. Kiedy indziej znów jednoczesna analiza kilku strumieni wideo, wykrywanie wad, przetwarzanie obrazu 3D albo wykorzystanie bardziej wymagających modeli multimodalnych.

Dobieranie tej samej klasy sprzętu do każdego z tych scenariuszy zwykle nie ma uzasadnienia. Zbyt mocna konfiguracja niepotrzebnie zwiększa koszt systemu, natomiast zbyt ograniczona może szybko stać się barierą przy rozbudowie aplikacji. Dlatego też  jednym z najważniejszych elementów MEX-BTS jest obsługa modułów graficznych MXM 3.1 Type A oraz Type B. Platforma może współpracować z rozwiązaniami NVIDIA i Intel, dzięki czemu poziom wydajności GPU można dobrać do rzeczywistego obciążenia. Producent przewiduje zarówno konfiguracje przeznaczone do energooszczędnej inferencji wielu strumieni wideo, jak i rozwiązania wykorzystujące bardziej wydajne układy do modeli multimodalnych czy zaawansowanego obrazowania.

CPU i GPU dobrane do zadania

Elastyczność MEX-BTS nie kończy się jednak na karcie graficznej. System obsługuje ponad 30 procesorów Intel Core 12., 13. i 14. generacji oraz Core Series 2, o TDP do 65 W. Dostępne są warianty z chipsetami Intel R680E, Q670E oraz H610E. ponadto w konfiguracji z R680E możliwe jest również wykorzystanie pamięci ECC. Dwa gniazda SO-DIMM pozwalają zainstalować do 64 GB pamięci DDR5. Takie podejście umożliwia zbudowanie systemu pod określone wymagania, zamiast rozpoczynania projektu od gotowej konfiguracji, która może oferować zbyt małą albo niepotrzebnie dużą wydajność. Może mieć to szczególne znaczenie w rozwiązaniach OEM i projektach wdrażanych etapami. Pierwsza wersja aplikacji może wykorzystywać prostszy model analizy obrazu. Zaś kolejne generacje oprogramowania będą wymagały już większej mocy obliczeniowej lub pamięci.

Nie tylko wydajność. Liczą się również interfejsy

Należy pamiętać, że w systemach wizyjnych sama wydajność GPU nie wystarczy. Dane trzeba jeszcze dostarczyć do komputera. Więc, w zależności od wersji, MEX-BTS oferuje do 6 portów LAN, w tym interfejsy 2.5GbE, a także 6 USB i 4 porty COM. Do dyspozycji pozostają również m.in. GPIO oraz interfejsy do rozbudowy systemu. Producent wskazuje możliwość równoczesnego wykonywania inferencji nawet dla ośmiu strumieni wideo – oczywiście ostateczna wydajność zależy od zastosowanego GPU, modeli AI i parametrów przetwarzanego obrazu. Dwa gniazda M.2 2280 M-Key umożliwiają rozbudowę pamięci masowej. Natomiast M.2 3052 B-Key oraz pełnowymiarowe Mini Card pozwalają rozszerzyć możliwości komunikacyjne platformy. Cały system ma 295 × 186 × 50 mm.

Od kontroli jakości po bardziej zaawansowane modele AI

Tak skonfigurowana platforma znajdzie zastosowanie w systemach kontroli jakości, wielokamerowym machine vision, monitoringu, robotyce czy przemysłowej analizie obrazu. I właśnie te możliwości firma AAEON zaprezentowała podczas tegorocznego Embedded World. Gdzie MEX-BTS wyposażony w kartę NVIDIA RTX 5000 Ada wykorzystano w aplikacji firmy Awentia do przemysłowego wykrywania wad. System wykonywał lokalnie model VLM, czyli Vision-Language Model. To interesujący przykład również z punktu widzenia innych przyszłych wdrożeń. Systemy machine vision coraz częściej wykraczają poza wykrywanie wcześniej określonych klas obiektów. Pojawiają się aplikacje analizujące bardziej złożony kontekst obrazu, a wraz z nimi rosną wymagania dotyczące GPU, pamięci i przepustowości. Nie oznacza to jednak, że każda aplikacja potrzebuje od razu najbardziej rozbudowanej konfiguracji. W praktyce znacznie ważniejsze jest właściwe dopasowanie platformy do liczby kamer, rodzaju modelu, wymaganej liczby klatek na sekundę i czasu odpowiedzi systemu.

Konfiguracja zaczyna się od aplikacji

Z tej właśnie przyczyny przy projektach Edge AI warto odwrócić typowy sposób myślenia. Czyli, najpierw określić wymagania aplikacji, a dopiero później wybrać procesor, GPU, pamięć i potrzebne interfejsy. MEX-BTS daje w tym zakresie szerokie możliwości konfiguracji. Ponadto liczba dostępnych wariantów oznacza, że ostateczny dobór sprzętu powinien uwzględniać nie tylko aktualne obciążenie, ale również planowany rozwój systemu.

CSI S.A. wspiera integratorów i producentów urządzeń w doborze przemysłowych platform komputerowych do konkretnych projektów. Jeśli planujesz system machine vision, lokalne przetwarzanie AI lub aplikację wymagającą dedykowanego GPU, skontaktuj się z naszym zespołem. Pomożemy dobrać konfigurację MEX-BTS pod wymagania aplikacji i przedstawimy szczegółowe dane techniczne dostępnych wariantów.