● news.bsdnet.hu

A General Compute, egy AI inferenciafelhő-szolgáltatást fejlesztő startup, 400 millió dolláros hitelt kapott az Upper90 technológiai befektetési társaságtól. Ez lehet az első olyan finanszírozási ügylet, amelyben kifejezetten inferenciára tervezett chipek szolgálnak fedezetként – vagyis olyan processzorok, amelyeket a már betanított mesterségesintelligencia-modellek gyors és hatékony futtatására fejlesztettek ki, szemben a modellek betanításához használt, jóval drágább chipekkel.   A finanszírozás újabb jele annak, hogy a piac reagál a mesterséges intelligenciás eszközök és tokenek magas költségeivel kapcsolatos aggodalmakra, és egyre inkább olyan infrastruktúrák felé fordul, amelyek nyílt forráskódú modelleket képesek jóval alacsonyabb költséggel futtatni, mint a vezető AI-laborok legújabb nagy nyelvi modelljei (LLM-jei). A Finn Puklowski vezérigazgató és Jason Goodison műszaki igazgató által alapított General Compute májusban 15 millió dolláros magvető (seed) befektetést vont be, hogy a SambaNova – az Intel támogatását élvező chipgyártó – szilíciummegoldásaira építve inferenciára optimalizált „neocloudot” hozzon létre. (A neocloudok kifejezetten AI-munkaterhelések kiszolgálására épülnek, szemben a hagyományos hiperskálázó szolgáltatók, például az AWS vagy az Azure által kínált általános célú infrastruktúrával.) A vállalat SN50 jelű chipjeit kifejezetten inferenciafeladatokra tervezték. Energiahatékonyak, és nincs szükségük költséges vízhűtéses rendszerekre, így a GPU-knál gyorsabban telepíthetők, ráadásul sokkal többféle adatközpontban használhatók. A General Compute szerint az új chipek akár 16-szor gyorsabb inferenciát tesznek lehetővé, mint a GPU-alapú felhőszolgáltatások. A kihívást az jelenti, hogy nagy mennyiségben kell hozzájutni ezekhez a chipekhez – különösen egy teljesen új vállalat számára. Billy Libby, az Upper90 társalapítója és vezérigazgatója, aki korábban a Goldman Sachs kvantitatív kereskedője volt, már ismert egy bevált stratégiát. Cége 2021-ben finanszírozta a Crusoe energiahatékony adatközpontokra szakosodott startup GPU-vásárlásait, ami véleménye szerint az első olyan hitel volt, amelyet fejlett chipek értékére alapozva nyújtottak. A hagyományos hitelezők akkoriban kerülték az ilyen ügyleteket, mivel jelentős kockázatot láttak a GPU-k értékcsökkenésében és a piac bizonytalanságában. Miután azonban a CoreWeave a chipekkel fedezett hiteleket üzleti modelljének alapjává tette, majd erre építve kiemelkedően sikeres tőzsdei bevezetést hajtott végre, ez a finanszírozási forma mára széles körben elterjedtté vált. „Amikor elsőként finanszíroztunk Nvidia GPU-kat, a piac még nem működött hatékonyan” – mondta Libby. „Korai szereplőként olyan konstrukciót tudtunk kialakítani, amely megfelelően kompenzált bennünket a vállalt kockázatért.” Most, hogy a GPU-k piaca már jóval átláthatóbbá vált, sőt egyesek szerint túl is vásárolták, az Upper90 olyan vállalatok felé fordul, mint a General Compute, hogy meglovagolja a mesterséges intelligencia következő növekedési hullámát. „Úgy gondoljuk, hogy a nyílt forráskódú modellek meghatározó szerepet fognak játszani, ezért tavaly olyan szereplőt kerestünk, amely az inferenciára összpontosít” – mondta Libby. „Nincs mindenkinek szüksége szuperszámítógépre, de inferenciára és mesterséges intelligenciára igen.” Ezt az elképzelést az utóbbi időben több piaci fejlemény is alátámasztotta. Az olyan vállalatok, mint az OpenRouter vagy a Fireworks, amelyek nyílt modellekhez biztosítanak hozzáférést, új finanszírozási köröket zártak rendkívül magas vállalatértékelések mellett. Az olyan új modellek, mint a Kimi K3, bebizonyították, hogy programozási teljesítményteszteken képesek felvenni a versenyt az Anthropic és az OpenAI legújabb modelljeivel. Eközben az olyan új chipgyártók, mint a Groq és a Cerebras, egyaránt felkeltették a felvásárlók és a tőkepiacok érdeklődését. A General Compute számára azért is kulcsfontosságú, hogy az Nvidia ökoszisztémáján kívülről is hozzáférjen chipekhez. Egy másik AI-infrastruktúra-vállalat, a TensorWave hasonló stratégiát követ az AMD-vel kialakított partnerségével. Ahogy egyre több alternatíva jelenik meg az Nvidia megoldásaival szemben, azok a számítási infrastruktúrát biztosító szolgáltatók, amelyek nincsenek kizárólag az Nvidia technológiájához kötve, versenyelőnybe kerülhetnek a költséghatékony inferenciaszolgáltatások nyújtásában. „Számos olyan chip kezd mostanra nagyobb léptékben elterjedni, amelyek rendkívül kedvező teljes birtoklási költséggel (TCO) működnek, vagy akár az Nvidiánál is lényegesen gyorsabbak, de egyelőre kevés a vásárlójuk” – mondta Puklowski. „Az Upper90-nel kötött megállapodás nem egyszerűen arról szól, hogy egy menő startup pénzt kapott számítási kapacitás vásárlására. Ez az első jele annak, hogy a tőke elkezd más irányokba szerveződni, és az Nvidia eddig szinte monopolhelyzetű dominanciája erodálódni kezd.” Forrás: https://techcrunch.com