8 godzin temu
Google pracuje nad nowym układem serwerowym, który ma być ściśle dostosowany do modeli Gemini. Projekt, nieformalnie nazywany „Frozen v2”, może trafić do centrów danych w 2028 roku. Prace znajdują się jednak na wczesnym etapie, a ostateczna konstrukcja procesora nie została jeszcze ustalona.
Najważniejszą zmianą ma być zapisanie części informacji dotyczących architektury modelu bezpośrednio w układzie scalonym. Dzięki temu chip nie musiałby wykonywać wszystkich operacji w taki sam sposób jak bardziej uniwersalne akceleratory. Według nieoficjalnych danych Frozen v2 może przetwarzać od sześciu do dziesięciu razy więcej tokenów na jednostkę zużytej energii niż obecne układy AI Google.
Dla firmy oznaczałoby to możliwość szybszego i tańszego udostępniania usług opartych na Gemini. Ma to znaczenie, ponieważ rozwój generatywnej sztucznej inteligencji wymaga coraz większej liczby serwerów, energii i specjalistycznych procesorów. Według doniesień niedobór dostępnej mocy obliczeniowej miał już zmuszać Google Cloud do rezygnacji z części kontraktów z zewnętrznymi klientami.
Frozen v2 nie ma zastąpić rozwijanych od lat procesorów TPU. Ma być dodatkowym, bardziej wyspecjalizowanym rozwiązaniem przeznaczonym głównie do obsługi modeli Google. w tej chwili firma wdraża układy Ironwood, zaprojektowane zarówno do trenowania modeli, jak i ich późniejszego uruchamiania. Google podaje, iż Ironwood oferuje ponad czterokrotnie wyższą wydajność pojedynczego układu niż poprzednia generacja Trillium.
Nowy projekt wpisuje się w szerszy trend tworzenia własnych chipów przez największe firmy technologiczne. Pozwala to ograniczać koszty oraz zależność od zewnętrznych dostawców, przede wszystkim Nvidii. Ceną za bardzo wysoką wydajność może być jednak mniejsza elastyczność, ponieważ sprzęt dostosowany do konkretnej wersji modelu trudniej wykorzystać po istotnej zmianie jego architektury.
Google nie potwierdził oficjalnie planów wdrożenia Frozen v2. Firma poinformowała jedynie, iż stale testuje nowe rozwiązania, a nie każdy projekt trafia do produkcji. Po publikacji informacji akcje Alphabetu wzrosły o około 3 proc., co wskazuje, iż inwestorzy pozytywnie ocenili możliwość ograniczenia rosnących kosztów infrastruktury AI.
