OpenAI Prelazi na Googleove Tensor Processing Une (TPUs)
Prema izvještajima, OpenAI je počeo koristiti Googleove tensor processing units (TPUs) kako bi podržao ChatGPT i druge svoje proizvode. Izvještaj Reuters-a, pozivajući se na izvor upoznat s tom odlukom, ističe da je ovo prvi značajan korak OpenAI-a prema alternativama, udaljavajući se od Nvidia hardvera koji je dosad činio osnovu OpenAI-ovih računalnih resursa.
Poslovanje s Googleom i Nova Partnerstva
Google iznajmljuje TPUs putem svoje cloud platforme, dodajući OpenAI na sve duži popis vanjskih korisnika, koji uključuje značajne tvrtke poput Applea, Anthropic-a i Safe Superintelligence. Иako modela TPUs koji se iznajmljuju nisu najnapredniji modeli, sporazum odražava OpenAI-ove napore da smanji troškove inferencije i proširi svoje računalne mogućnosti izvan Nvidia i Microsoft Azure rješenja.
Porast Korištenja i Troškova
Ova odluka dolazi u vrijeme kada radni opterećenja za inferenciju rastu, a ChatGPT sada koristi više od 100 milijuna aktivnih korisnika dnevno. Ova potražnja predstavlja značajan postotak OpenAI-ovog procijenjenog godišnjeg budžeta za računalne resurse od 40 milijardi dolara. Googleovi v6e “Trillium” TPUs su dizajnirani za stabilnu inferenciju, nudeći visoki prolaz podataka uz niže operativne troškove u odnosu na vrhunske GPU-ove.
Duboka Suradnja i Mogućnosti Razvijanja
Iako Google nije komentirao situaciju, a OpenAI nije odmah odgovorio na upit Reuters-a, ovaj dogovor sugerira produbljivanje opcija infrastrukture. OpenAI se i dalje oslanja na Microsoft-ova rješenja Azure za većinu svojih implementacija, budući da je Microsoft najveći investitor u ovu kompaniju. Međutim, problemi s opskrbom i pritisci na cijene oko GPU-a otkrili su rizike ovisnosti o jednom dobavljaču.
Prednosti Integracije Googleovih TPUs
Uključivanje Googlea ne samo da poboljšava OpenAI-ovu sposobnost širenja računalnih kapaciteta, već se također uklapa u širi industrijski trend miješanja izvora hardvera radi veće fleksibilnosti i pregovaračke moći pri cijenama. Iako ne postoji naznaka da OpenAI razmatra potpuno napuštanje Nvidia hardvera, integracija Googleovih TPUs pruža veću kontrolu nad troškovima i dostupnošću.
Zaključak
Hoće li OpenAI uspjeti u potpunoj integraciji ovog hardvera u vlastite sustave, ostaje da se vidi, posebno s obzirom na dugogodišnju ovisnost softverskog ekosustava o CUDA i Nvidia alatima. Ova nova faza u poslovanju OpenAI-a potencijalno donosi brojne prilike za optimizaciju troškova i poboljšanje operativne efikasnosti, istovremeno pomičući granice računalne tehnologije.
