● news.bsdnet.hu

Az AI-fejlesztő laboratóriumoknál az óriási verseny arra ösztönzi a techcégeket, hogy minél gyorsabban rukkoljanak elő a legfejlettebb újabb modellekkel, ám kevesebb erőforrást fordítanak az etikai kérdésekre, és annak a veszélynek a kezelésére, hogy a technológiák potenciálisan kicsúszhatnak az emberi ellenőrzés alól. A vezető AI-cégek berkein belül egyre több kutató ad hangot az egyre fejlettebb rendszerek iránti aggodalmának. A Claude-ot fejlesztő Anthropic volt vezető biztonsági kutatója, Jacob Coxon múlt héten jelentette be távozását a cégtől az X közösségi platformon, miután arra jutott, hogy kenyéradója és a versenytárs OpenAI túl gyorsan halad a magát továbbfejlesztő AI-rendszerek felé. Coxon bejegyzésére reagált Evan Hubinger, az Anthropic másik dolgozója, aki tett egy olyan merész kijelentést is, hogy szerinte 10 százaléknál nagyobb az esély arra, hogy az őrült AI-fejlesztések a következő évtizedben az emberiség kipusztulását hozzák el. Ezután már nem igazán lehetett gátat szabni a sajtóban megjelenő apokaliptikus hangulatú cikkeknek. A két kutató nyilatkozatai után a vállalat vezérigazgatója, Dario Amodei is megosztotta gondolatait a témával kapcsolatban a hétvége folyamán. A vezető szombaton közzétett esszéjében nyomatékosította, hogy szintén úgy gondolja, hogy az élvonalbeli modellek fejlesztésén lassítani kell, és szorosabb együttműködésre van szükség a külsős független értékelőkkel. Mivel a technológia fejlesztésével komoly kockázatok járnak, ezért több időt kell biztosítani a vállalatok és a kormányok számára ezek kezelésére. Az Anthropic fővezér három fő javaslata közül az első, hogy a folyamatba még aktívabban kell bevonni a külsős értékelőket, akik a kockázatok nyomon követése érdekében munkavállalói szintű hozzáférést kapnának a rendszerekhez. A másik két javaslat már szélesebb körű összefogást sürget, Amodei szerint a demokratikus államok közötti megállapodásokat kell létrehozni a AI-jal kapcsolatos biztonsági szabványokról, végezetül pedig az olyan tekintélyelvű országokkal, mint például Kína is egyeztetés kell. Ritka pillanat, hogy a legmeghatározóbb amerikai AI-fejlesztők egyetértenek valamiben, de most úgy tűnik, sikerült közös álláspontra jutni. Az OpenAI vezérigazgatója, Sam Altman, a Google DeepMind vezetője, Demis Hassabis, valamint az xAI tulajdonosa, Elon Musk is támogatásáról biztosította Amodei „We Must Pace the Frontier” (Ütemeznünk kell az élvonalbeli fejlesztést) című javaslatát. Altman emellett kijelentette, hogy ő is csatlakozik Amodei vállalásához, és külső értékelőket von be cégéhez a biztonsági eljárások ellenőrzése érdekében. Az egész diskurzust beindító, Anthropictól felmondott Jacob Coxon hosszabb interjút adott a BBC-nek, amiben volt főnöke hétvégi esszéjére is reagált. A 27 éves fiatalember (aki egyébként az Anthropic-hoz való csatlakozása előtt az OpenAI-nál dolgozott) szintén üdvözölte a lassításra vonatkozó javaslatot, ugyanakkor hangsúlyozta, hogy Kínával közös munka is elengedhetetlen a nemzetközi szintű versenyfutás lassításához. Az elmúlt napokban a fenti történések nyomán mindenkit jobban foglalkoztat az a nehezen megfogható kérdés, hogy mégis hogyan lehet eljutni egy apokalipszisig. Az egyik felvetett kockázat, hogy egy szuperszámítógépként működő botraj átveheti az irányítást az internet felett, ami Coxon szerint akár hat hónapon-egy éven belül valósággá válhat. A BBC és a Business Insider más neves AI-kutatókat is megkérdeztek a feltételezett esélyekről, és szép számmal akadnak olyan szereplők, akik szerint ezek a víziók túlzóak, és csak a hype-ot és a pánikot generálják. Geoffrey Hinton informatikus és Nobel-díjas kutató szerint egyáltalán nincs realitása a 10 százalékos kockázatnak, ami az emberiség kihalásával fenyeget. Marc Warner, az AI-biztonsággal foglalkozó Faculty cég vezérigazgatója szerint pedig egyszerűen csak rendkívül nehéz valószínűséget rendelni a forgatókönyvhöz, így ezeket a számokat fenntartással kell kezelni. Emil Michael, az amerikai védelmi minisztérium technológiai igazgatója egy védelmi ipari konferencián reagált a hírre. A tisztviselő szerint könnyű túlgondolni a katasztrofális végkifejletet vizionáló gondolatmenetet. Szerinte Coxon valójában egyetlen, jól megfogalmazott tweetbe sűrítette az összes AI-jal kapcsolatos emberi félelmet. Gary Marcus mesterségesintelligencia-kutató szerint a leginkább megfogható, valóban komoly kockázat a fejlettebb kibertámadások és a dezinformáció, ugyanakkor szerinte nincsen olyan reális forgatókönyv, mely az emberiség teljes kipusztításához vezetne. Clement Delangue, a Hugging Face mesterségesintelligencia-platform vezérigazgatója úgy gondolja, hogy Coxont kérdezni az AI-jal magyarázható kihalás kockázatáról olyan, mint a klímaváltozásról faggatnának egy klímaszerelőt. Miután azonban Amodei esszéje megjelent, Delangue felajánlotta segítségét az Anthropic vezetője által felvetett lehetséges megoldások megvalósításában. Jensen Huang, a mesterségesintelligencia-chipeket gyártó Nvidia vezetője sem hagyta szó nélkül Coxon megjegyzéseit a Goldman Sachs befektetési bank által a múlt héten rendezett konferencián, és nemes egyszerűséggel valótlannak minősítette a feltételezéseket. (Források: The Guardian , BBC , Dario Amodei , The Next Web , Business Insider. Fotó: GettyImages)