● news.bsdnet.hu

Az MI-kutatók is egyre vészjóslóbb figyelmeztetéseket tesznek közzé a határmodellekkel, vagyis a technikailag legfejlettebb és legnagyobb teljesítményű, általános célú MI-rendszerekkel kapcsolatban, amelyek lényege, hogy nemsokára már a saját maga által épített rendszereket sem lesz képes senki irányítani, a fejlesztők versenye pedig az emberek életével folytatott hazárdjátékká válik. Korábban már Sam Altman , az OpenAI vezérigazgatója is megjegyezte, hogy ideje lenne visszafogni a tempót, néhány nappal ezelőtt pedig az Anthropic vezérigazgatója, Dario Amodei egy olyan felhívást is megosztott, amelyben ennek érdekében átfogó stratégiákat is felvázolt. Amodei hosszú fejtegetésében azt írja, két dolog győzte meg róla, hogy itt az ideje óvatosabb megközelítést alkalmazni a mesterséges intelligencia fejlesztésében: az egyik a OpenAI-Hugging Face hekkelés volt , a másik pedig az a tény, hogy az MI fejlődése az elmúlt hónapokban látványosan felgyorsult, különös tekintettel a következő generációs rendszerek építésére való képességeire. Az Anthropic vezetője azt is világossá teszi, hogy a fejlesztések tudatosabb ütemezése nem jelentené azok leállítását, de az iparági szereplőknek elég időt kell szánniuk modelljeik összehangolására és védelmére, illetve a harmadik féltől származó megerősítő értékelésekre. Politikai ellenszél minden irányból Első lépésben azt sürgeti, hogy minden határterületi MI-vállalat biztosítson folyamatos, alkalmazotti szintű hozzáférést egy "beágyazott, külső értékelőkből álló csapatnak", amelynek feladata lenne a biztonsági gyakorlatok és kötelezettségvállalások ellenőrzése, az incidensek jelentése, és nemcsak a befejezett MI-modellek, hanem a képzési folyamatok összehangolásának értékelése is. Szerinte az ilyesmire már precedens is van például a bankszektorban, az Anthropic pedig egyoldalúan el is kötelezi magát mindezek mellett. A második lépés a demokratikus országokban működő határterületi MI-vállalatok összehangolt munkája lenne a közös biztonsági szabványok és az MI ellenőrizetlen fejlődésének korlátozása érdekében. Ennek kapcsán megjegyzi, hogy az ütemezésre hatással lévő koordináció jogi kihívást is jelentene, és kormányzati támogatást igényel. Hogy erre milyen kilátásai lehetnek az ágazatnak, azt persze jól jelzi, hogy Donald Trump amerikai elnök máris lesöpörte az asztalról az önkorlátozásról szóló javaslatokat. A harmadik feltétel a globális koordináció lenne, Amodei szerint az Egyesült Államoknak és más demokratikus kormányoknak lehetőség szerint együttműködést kellene kezdeményezniük az autoriter kormányokkal is, miközben komolyan veszik a megfelelőség ellenőrzésének kihívásait. Könnyűnek ez a feladat sem ígérkezik, miután a híradások szerint a kínai sajtóban már hidegháborús logikával vádolják a kölcsönös korlátozásokat pedzegető amerikai fejlesztőket, akiknek így az első lépéseket így egyoldalúan megtenniük. Nem csak a jövőben okozhat károkat Mindenesetre úgy tűnik, hogy más amerikai MI-vállalatok vezetői pozitívan reagáltak Amodei bejegyzésére. Altman egyetértett vele, hogy a határmodellek fejlesztésében tudatos ütemezésre lenne szükség, és úgy nyilatkozott , hogy az OpenAI-nál az elmúlt hetekben folytatott megbeszéléseknek is éppen ez volt a fő témája. Elon Musk , a SpaceX (xAI) vezérigazgatója pedig annyit válaszolt saját X-es csatornáján az Anthropic vezetőjének levelére: "Dariónak igaza van". A felhívást természetesen a szkeptikusok is véleményezték, akik szerint az ilyesminek most sincs más célja, mint elterelni a figyelmet a technológia által valós időben okozott károkról. Akik hisztériakeltéssel vádolják az Anthropicot vagy más ágazati szereplőket, azok kezdetnek egy hiteles, lépésről lépésre kidolgozott dokumentációt hiányolnak a részükről, hogy az önmagát rekurzívan fejlesztő mesterséges intelligencia pontosan hogyan is veszélyeztetné az emberiséget. Szerintük ennek hiányában inkább csak egy színjáték zajlik éppen, amelynek keretei között az MI-vállalatok a krízishelyzetre hivatkozva megpróbálják elfoglalni és a maguk érdekei szerint alakítani a mesterséges intelligencia szabályozását. Részletek Dario Amodei blogbejegyzésében »