● news.bsdnet.hu

A mesterséges intelligencia lehetséges árnyoldalairól szóló számos vita közül van egy, amely különösen nagy aggodalmat vált ki a Szilícium-völgy AI-rajongói körében. Attól tartanak, hogy a zárt AI-modelleket fejlesztő óriásvállalatok valójában afféle trójai falóként használják terméküket, és rendszereikért a cégek valójában kétszer fizetnek.   Az aggodalom lényege, hogy miközben a startupok és nagyvállalatok olyan cégek AI-modelljeit használják, mint az OpenAI vagy az Anthropic, ezek a fejlesztők egyre nagyobb betekintést nyernek ügyfeleik legérzékenyebb üzleti adataiba. A modellek készítői ezt a tudást később saját céljaikra is felhasználhatják, és akár saját ügyfeleik versenytársaivá is válhatnak. Az ilyen figyelmeztetéseket olyan ismert szereplők fogalmazták meg, mint Jason Calacanis kockázatitőke-befektető vagy Alex Karp, a Palantir vezérigazgatója. Ehhez a táborhoz csatlakozott most meglepő módon a Microsoft vezérigazgatója, Satya Nadella is. Vasárnap közzétett blogbejegyzésében arra figyelmeztetett, hogy az AI-t használó vállalatok – amelyeket ő „vásárlóknak” nevez – valójában kétszer fizetnek. Egyrészt tudatosan megfizetik az AI-tokenek használatának költségét, másrészt észrevétlenül átadják saját értékes adataikat is. „Lényegében kétszer fizetünk az intelligenciáért: egyszer pénzzel, másodszor pedig valami még értékesebbel – azzal a saját, üzleti tudással, amelyet fel kell tárnunk ahhoz, hogy az intelligencia valóban hasznos legyen. Minél jobb teljesítményt várunk el a modelltől, annál több ilyen tudást kell betáplálnunk” – írta Nadella. A vállalatok saját maguk tanítják be a modelleket Nadella szerint a legnagyobb veszély az, hogy a vállalatok szó szerint saját működésük finom részleteire tanítják meg az AI-modelleket. „A modellek a használat során keletkező ‘kipufogógázból’ tanulnak: azokból a promptokból, amelyeket az emberek írnak, azokból az eszközökből, amelyeket az AI-ügynökök használnak, és különösen azokból a javításokból, amelyeket a felhasználók végeznek, amikor a modell hibázik. Minden egyes korrekció intézményi tudássá finomodik.” Ez olyan tudás – teszi hozzá –, „amelyet egy versenytárs soha nem tudna egyszerűen megvásárolni”, a vállalatok mégis önként adják át. A modellfejlesztők nem élhetnek kettős mércével A Microsoft vezetője szerint, ha az AI-fejlesztő cégek szabadon felhasználhatják az interneten található adatokat modelljeik betanítására, akkor méltányos lenne, ha a vállalatok is tanulmányozhatnák – vagyis „desztillálhatnák” – ezeket a modelleket. A „desztilláció” (distillation) azt a módszert jelenti, amikor egy meglévő AI-modell válaszait elemzik, hogy megértsék működését, majd ezek alapján egy új, gyakran olcsóbban működtethető modellt tanítsanak be. Februárban az Anthropic azzal vádolta meg kínai nyílt forráskódú modellek fejlesztőit, hogy több millió lekérdezést küldtek a Claude modellnek annak érdekében, hogy saját rendszereiket fejlesszék. A vállalat egyúttal arra kérte az amerikai kormányt, hogy szigorítsa az exportkorlátozásokat. Nadella szerint azonban a modellfejlesztők nem alkalmazhatnak kettős mércét. Képmutató magatartásnak tartja, ha a világ adatait szabadon felhasználják saját modelljeik képzésére, miközben másokat megakadályoznak abban, hogy ugyanezt tegyék az ő modelljeikkel. „Bár szükség van arra az innovációra, amely abból fakad, hogy a modellfejlesztők méltányos felhasználási joggal taníthatják modelljeiket nyilvános adatokon, ironikusnak tartom, hogy ezt követően korlátozó feltételeket szabnak a desztillációnak.” Nadella különösen aggályosnak tartja azokat a szolgáltatási feltételeket, amelyekben a modellfejlesztők fenntartják maguknak a jogot arra, hogy tanuljanak az ügyfelek használati és interakciós adataiból. Saját tanulási környezet és nyílt modellek A Microsoft vezérigazgatója olyan megoldást javasol, amely jól illeszkedik egy globális felhőszolgáltató üzleti modelljéhez. Szerinte a vállalatoknak meg kell őrizniük tulajdonjogukat adataik felett, beleértve a promptokat, a felhasználói visszajelzéseket és minden egyéb kapcsolódó információt. Ennek érdekében arra ösztönzi őket, hogy saját, zárt „tanulási környezeteket” hozzanak létre a felhőben – ahol adataik nagy része valószínűleg már most is megtalálható, ami természetesen akár a Microsoft Azure szolgáltatását is jelentheti. Emellett azt is szorgalmazza, hogy a vállalatok építsenek úgynevezett „orchestration layer”-eket, vagyis olyan köztes rétegeket, amelyek lehetővé teszik a különböző AI-modellek közötti egyszerű váltást anélkül, hogy egyetlen szolgáltatóhoz kötődnének. Az ilyen funkciókat biztosító úgynevezett AI-átjárók (AI gateways) egyre népszerűbbek a vállalati piacon. Bár Nadella nem említi kifejezetten a nyílt forráskódú modelleket mint a tulajdonjog megőrzésének eszközét, ez egyértelműen kiolvasható mondanivalójából. Egyre több vállalat tér át a helyben futtatott nyílt modellekre A nagyvállalatok – amelyek sok esetben a felhő mellett továbbra is saját adatközpontokat is üzemeltetnek – már most egyre nagyobb számban állnak át olyan nyílt forráskódú modellekre, amelyeket saját infrastruktúrájukon, helyben (on-premises) futtatnak. Idit Levine, a vállalati AI-rendszerek hálózati és biztonsági megoldásait fejlesztő Solo.io alapítója és vezérigazgatója szerint ügyfeleinél pontosan ez a folyamat figyelhető meg. Miután kipróbálták a zárt modelleket, egyre többen teszik fel maguknak a kérdést: „Nem futtathatnék inkább egy nyílt forráskódú modellt helyben? A nagy modellek képességeinek közel 90 százalékát tudja, miközben lényegesen olcsóbb. Ezt megértik az ügyfelek; ráadásul teljes mértékben ellenőrzésük alatt tarthatják.” A Solo.io technológiáját tavaly választották a Linux Foundation Agentgateway projektjének alapjául. A vállalat ügyfelei között olyan nagyvállalatok találhatók, mint a T-Mobile, az ADP és az SAP. Levine szerint a helyben telepített, nyílt forráskódú modellek terjedése lesz a vállalati mesterséges intelligencia következő nagy hulláma. Nem ő az egyetlen, aki ezt tapasztalja. A Vercel – amely weboldalak fejlesztésére és hosztolására szolgáló platformként ismert, de nemrég AI-modellváltó eszközökkel is bővült – valamint az OpenRouter, amely különböző AI-modellek közötti intelligens kéréstovábbítást biztosít a fejlesztőknek, egyaránt jelentős forgalomnövekedést tapasztal a nyílt modellek iránt. A Vercel átjáróján keresztül irányított összes forgalom 29 százalékát már a múlt hónapban is nyílt forráskódú modellek tették ki. Mivel immár a Microsoft vezérigazgatója – annak a vállalatnak az első embere, amely egyszerre fektetett be az OpenAI-ba és az Anthropicba – is nyíltan arra figyelmezteti a vállalatokat, hogy körültekintően használják a zárt AI-modelleket, minden jel arra utal, hogy ez a tendencia tovább erősödhet. Ahogy Nadella fogalmaz: „Amikor intelligenciát használunk, új intelligenciát is létrehozunk. És amit létrehozunk, annak nálunk kell maradnia.” Forrás: https://techcrunch.com