NVIDIA rozwija lokalną AI. RTX Spark z nowymi narzędziami

NVIDIA przygotowuje premierę laptopów RTX Spark, które od 16 października mają umożliwić uruchamianie zaawansowanych modeli i agentów sztucznej inteligencji bezpośrednio na komputerze, ograniczając zależność od usług chmurowych.

Nowa platforma, rozwijana we współpracy z Microsoftem, w najwyższej konfiguracji oferuje do 128 GB pamięci współdzielonej i deklarowaną wydajność 1 petaflopa w obliczeniach AI. Producent zapowiedział również model Nemotron 3.5 Bolt 74B, który dzięki kompresji zajmuje 24 GB pamięci. Jego udostępnienie zaplanowano na 15 października.

Równolegle NVIDIA udostępniła stabilną wersję PAIR, bezpłatnego systemu umożliwiającego rozdzielanie obliczeń AI między komputerami w sieci lokalnej. Integracje z GitHub Copilot, Perplexity i innymi narzędziami pozwalają łączyć modele lokalne z chmurowymi, dobierając sposób przetwarzania do charakteru zadania. Rozwiązania OpenShell i Microsoft Execution Containers mają dodatkowo ograniczać dostęp agentów do zasobów systemowych.

Zmiany obejmują również oprogramowanie kreatywne. NVIDIA i Adobe pracują nad optymalizacją Photoshopa i Premiere, zapowiadając choćby dwukrotne przyspieszenie wybranych operacji. Aktualizacja NVIDIA Broadcast 2.3 rozszerza natomiast możliwości przetwarzania nagrań i automatyzacji pracy.

Rozwój lokalnej AI może zmienić sposób korzystania z infrastruktury obliczeniowej w przedsiębiorstwach. Przetwarzanie części danych na urządzeniach użytkowników daje większą kontrolę nad informacjami i potencjalnie ogranicza wydatki na usługi chmurowe.

Barierą pozostają koszty. Pierwsze laptopy RTX Spark wyceniono na około 2600–7000 dolarów. Ich opłacalność będzie zależeć od rzeczywistej wydajności, zgodności systemu i intensywności wykorzystania AI. Początkowo największe zainteresowanie mogą więc wykazywać zespoły programistyczne i firmy rozwijające własne rozwiązania sztucznej inteligencji.