● news.bsdnet.hu

Sam Altman, az OpenAI vezérigazgatója szerint a vállalatok számára egyre komolyabb problémát jelentenek a mesterséges intelligencia használatának növekvő költségei. Az Intelligence at Work rendezvényen adott interjújában elmondta: most először tapasztalja azt, hogy az ügyfelek rendszeresen szóvá teszik az AI-rendszerek üzemeltetésének árát, ezért az OpenAI aktívan keresi azokat a megoldásokat, amelyekkel modelljei hatékonyabban működhetnek.   „Az emberek mostanában már félig viccesen, félig komolyan azt mondják: »A cégem az egész 2026-os költségvetését elköltötte az első negyedévben. Tudnátok ezt egy kicsit hatékonyabbá tenni?«” – mondta Altman. A vezérigazgató szerint az év elején még egyáltalán nem merült fel ez a kérdés. Az ügyfelek akkor elégedettek voltak az AI-ra fordított kiadásokkal, mára azonban a költségszint az egyik legfontosabb témává vált. „Folyamatosan dolgozunk azon, hogy modelljeinkkel több értéket tudjunk nyújtani alacsonyabb költségek mellett. Az év elején ez még nem volt téma, most viszont hirtelen óriási problémává vált” – fogalmazott. A „tokenmaxxing” ára Az elmúlt időszakban számos történet látott napvilágot olyan vállalatokról, amelyek hatalmas számlákkal szembesültek, miközben igyekeztek minél intenzívebben kihasználni a mesterséges intelligenciát. A jelenségre már külön kifejezés is született: a „tokenmaxxing” azt a szemléletet jelöli, amikor a cégek tudatosan maximalizálják az AI-modellek használatát abban a reményben, hogy ezzel jelentősen növelhetik munkatársaik termelékenységét és végső soron bevételeiket. Jensen Huang, az Nvidia vezérigazgatója korábban például azt mondta, hogy mérnökeinek évente legalább a fizetésük felének megfelelő értékben kellene AI-tokeneket felhasználniuk, különben komolyan aggódna a munkájuk hatékonysága miatt. Hasonlóan figyelemfelkeltő példa volt Peter Steinberger, az OpenClaw fejlesztője, aki elárulta, hogy csapata egyetlen hónap alatt 1,3 millió dollárt költött OpenAI API-tokenekre. Ez összesen mintegy 603 milliárd token felhasználását jelentette. Nem mindenhol térül meg az AI-láz Az első tapasztalatok alapján ugyanakkor egyre több jel utal arra, hogy a korlátlan AI-használat nem minden esetben hozza meg a remélt eredményeket. Az Amazon egyes munkatársai például elismerték, hogy olykor teljesen felesleges feladatokra is AI-ügynököket használtak, pusztán azért, hogy jobb helyezést érjenek el a vállalaton belüli AI-használati ranglistákon. A Microsoft eközben sajtóértesülések szerint visszafogta a Claude Code fejlesztői licencek kiosztását, miután azok költségei jelentősen megemelkedtek. Még az Uber vezérigazgatója is úgy nyilatkozott, hogy jelenleg nem látható egyértelmű kapcsolat a mesterséges intelligenciára fordított rendkívül magas kiadások és a sikeres termékfejlesztés között. Mindez arra utal, hogy a vállalatok egy része most kezdi feltenni a kérdést: a hatalmas AI-költségvetések valóban arányos üzleti eredményeket hoznak-e? A tokenfogyasztás azonban tovább nő Altman ennek ellenére arra számít, hogy a tokenfelhasználás hosszú távon tovább gyorsul. Elmondása szerint hat és fél évvel ezelőtt az OpenAI legnagyobb tokenfogyasztó ügyfele havonta körülbelül 100 ezer tokent használt fel. Ma ugyanez a mennyiség nagyjából megfelel az egy főre jutó globális átlagos tokenhasználatnak. A jelenlegi rekorder ügyfél ezzel szemben már havi 100 milliárd token körüli mennyiséget használ. Altman azt is elismerte – saját bevallása szerint némi zavarban –, hogy tud olyan felhasználóról, aki még ennél is többet fogyaszt. A vezérigazgató szerint, ha a növekedés hasonló ütemben folytatódik, hosszabb távon akár az is elképzelhető, hogy a világ egy főre jutó átlagos havi tokenhasználata eléri a 100 milliárdos nagyságrendet. Csökken az AI ára, de a használata jelenleg gyorsabban nő Ez a forgatókönyv azonban csak akkor válhat reálissá, ha a tokenek ára gyorsabban csökken, mint amilyen ütemben növekszik a felhasználásuk. Jelenleg ugyanis több vállalat is arra a következtetésre jutott, hogy bizonyos esetekben drágább mesterséges intelligenciával elvégeztetni egy feladatot, mint emberi munkaerővel megoldani azt. A jelenség jól illusztrálja az úgynevezett Jevons-paradoxont. A közgazdasági elmélet szerint amikor egy erőforrás használata olcsóbbá válik, az emberek általában nem kevesebbet, hanem többet fogyasztanak belőle. Pontosan ez figyelhető meg a mesterséges intelligencia esetében is. Bár az AI-modellek működtetése és betanítása egyre hatékonyabbá válik, az egyre fejlettebb és összetettebb ügynökalapú rendszerek exponenciálisan növelik a tokenigényt. Úgy tűnik, hogy a felhasználás növekedése jelenleg gyorsabban emelkedik, mint amilyen ütemben az AI-laborok javítani tudják a modellek hatékonyságát. Forrás: https://www.tomshardware.com