● news.bsdnet.hu

Távozik a cégtől és az MI-iparágat is elhagyja az Anthropic egyik kutatója, aki attól tart, hogy sem vállalata, sem annak versenytársai nem lesznek képesek irányítani a saját maguk által épített rendszereket. Jacob Coxon , aki az új MI-modellek betanítására specializálódott hatalmas mennyiségű adat felhasználásával, kedden az X-en jelentette be , hogy nem akar részt venni az önfejlesztésre képes MI-rendszerek fejlesztésére irányuló versenyfutásban, ami szerinte mostanra az emberek életével folytatott hazárdjátékká vált. Bejegyzésében Coxon arra figyelmeztet, hogy nem szabad alábecsülni a technológia erejét. Ahogy írja, a szóban forgó rendszerek hamarosan képesek lesznek bármit feltörni , egyik napról a másikra forradalmasítani bármilyen területet , ezen keresztül pedig valódi hatalomra és erőforrásokra tehetnek szert. A kutató ráadásul azt állítja, hogy a mesterséges intelligencia létrehozói komolyan hisznek benne, hogy az MI "az évtized végére mindannyiunkat megölhet", ami a ilyen-olyan formában ugyan a publikus nyilatkozatokban is megjelenik, de ez nem marketing, mert ő ugyanezeket a félelmeket hallja a személyes beszélgetések során. Teljesen mindegy, hogy milyen okból erőltetik Arra a kérdésre, hogy ha ennyire rettegnek saját termékeiktől, akkor miért fejlesztik azokat erőltetett tempóban, Coxon kétféle választ ad. Szerinte az OpenAI-nál, ahol korábban ő is megfordult, sokan nem látják át a tényleges civilizációs kockázatokat. Az Anthropicnál viszont, ahol jól értik, hogy mi forog kockán, azért akarják megnyerni a versenyt, mert meggyőződésük, hogy csak ők képesek felelős cselekvésre, ezért vállalniuk kell a kockázatot. A kutató azonban úgy látja, hogy a verseny és különösen a "végjátékba" való belépés olyan elbizakodott húzás, amelynek semmiképpen sem lenne szabad "magáncégek Slack-fiókjaiból" indulnia. Coxon abban a tekintetben optimista, hogy az utóbbi időben felmerülő figyelmeztető incidensek javítják a koordináció esélyeit, legalábbis ami az amerikai MI-fejlesztő cégek közötti ütemezési megállapodásokat illeti. A nemzetközi versenyben azonban már olyan intézkedésekre lenne szükség, mint az átmeneti stop a modellek képességek fejlesztésében, és ehhez rendkívüli bizalomra lenne szükség abban a tekintetben, hogy senki sem vághatja le a kanyarokat a riválisai megelőzéséhez. A kutató mindenesetre úgy látja, hogy jelenleg sem az OpenAI, sem az Anthropic nem viselkedik felelős módon, ezért nemcsak a felmondását jelentette be, hanem minden más kutatót is arra buzdít, hogy tegye fel magának a kérdést: lehajtott fejjel dolgozik, mert ez az egész úgyis elkerülhetetlen, vagy olyan feltételeket követel, amelyek mentén nem lehet anélkül hajszolni a gépi szuperintelligenciát, hogy megértenék annak működését. Ilyesmivel sivatagi bunkerekbe szokás vonulni A Wall Street Journal riportja megjegyzi, hogy messze nem Jacob Coxon az első olyan szakember, aki biztonsági aggályok miatt lépett le valamelyik MI-fejlesztőtől, de ő az első olyan, aki pont az Anthropictól távozik ilyesmire hivatkozva. Hiába távoztak ugyanis sokan az OpenAI-tól az elmúlt években, akik hangot adtak félelmeiknek, az Anthropic a legfejlettebb határmodelleket építő többi szervezet felelősségteljes alternatívájaként hirdeti magát, és éppen azért jött létre, mert alapítói leléptek az OpenAI-tól annak felelőtlen megközelítése miatt. Az emlegetett incidensek azonban már az Anthropic oldalán is megjelentek: a cég Claude Mythos modelljének egy korai verziója tavasszal kiszabadult a sandbox környezetből, ami újabb vitákat gerjesztettt az MI szabályozásáról. Augusztus végén a Claude Opus egy rosszul beállított verziójának megfigyelése során tapasztalták, hogy az mennyire hajlamos a csalásra, akár a hitelesítő adatok ellopására, sőt harmadik fél infrastruktúrájának támadására is. Az Anthropic és az OpenAI (ahol szintén történtek hasonló esetek) azóta megállapodtak a fejlesztések lassításában, de mindkét vállalat sikeres tőzsdei bevezetésre készül, így arra nem érdemes fogadni, hogy túlzásba viszik majd az önkorlátozást. Coxon a WS-nek nyilatkozva őrültségnek nevezte, hogy a mesterséges intelligencia fejlesztése San Franciscóban élő mérnökök MacBookjain zajlik, nem pedig valamilyen sivatagi bunkerben, hasonlóan akár az amerikai atomfegyver kifejlesztését célzó Manhattan tervhez. Különösen, hogy az Anthropic első embere, Dario Amodei már januárban arra figyelmeztetett egy igen hosszú esszében , hogy az emberiség "szinte elképzelhetetlen hatalomhoz" fog jutni az MI fejlődésével, és kicsit sem világos, hogy társadalmi, politikai és technológiai rendszereink rendelkeznek-e az ilyen hatalom gyakorlásához szükséges érettséggel. Arról, hogy a mesterséges intelligencia kritikája miért nem a haladás ellen szól, csak elutasít egy korlátolt elképzelést arról, hogy milyennek kell lennie a haladásnak, ebben és  ebben a cikkünkben írtunk részletesebben.