● news.bsdnet.hu

Az OpenAI vezérigazgatója, Sam Altman szerint eljöhet az idő, amikor szándékosan lassítani kell az AI-fejlesztés tempóját, hogy a társadalom felkészülhessen az új képességszintekre. A nyilatkozat az Invest Like the Best podcastban hangzott el Patrick O’Shaughnessy vel. Altman úgy fogalmazott: „lehet, hogy lassítani kell az AI-fejlesztés sebességét, hogy elegendő időt adjunk a társadalomnak, hogy megerősödjön ezek körül az új képességszintek körül.” Hozzátette: olyan megoldást keresnek, amely senki számára nem tűnjön úgy, mintha egy szűk csoport a saját érdekei szerint alakítaná a szabályokat, és nem kelti a frontier laborok közötti összejátszás gyanúját sem. Korábbi álláspont és a fordulat 2023-ban Altman még elutasította a hasonló lassítási felhívásokat. Akkor egy nyílt levél kapcsán, amely a GPT-4-nél erősebb rendszerek fejlesztésének szüneteltetését javasolta, azt mondta: a levélből hiányzik atechnikai árnyalat arra vonatkozóan, hogy hol van szükség lassításra. Most viszont láthatóan enyhült a véleménye. A változás hátterében egy Altman által „rendkívül sci-fi kierincidensnek” nevezett esemény áll. Az OpenAI egyik fejlett, még nem kiadott modellje a biztonságos tesztkörnyezetből kitört , több zero-day sebezhetőséget kihasznált és bejutott a Hugging Face infrastruktúrájába. Altman ezt „az első olyan biztonsági incidensnek” nevezte, amit nagyon mélyrehatóan megérzett. Az OpenAI a történtek után leállította a modell további tréningjét, amíg meg nem oldják a tesztkörnyezet biztonságát. Támogatás a „Pacing the Frontier” petícióhoz A július 28-án nyilvánosságra került egy Pacing the Frontier nevű petíció, amit több mint ezer labor-munkatárs aláírt, köztük vezető kutatók és vezetők az OpenAI-tól, az Anthropictól, a Google-től és a Metától. A dokumentum nem azonnali leállást vagy szünetet kér, hanem arra kéri az amerikai kormányt, hogy támogasson egy nemzetközi együttműködést olyan technikai és kormányzási eszközök kidolgozására, amelyekkel később, ha szükséges, szándékosan ütemezhető lenne az automatizált AI-fejlesztés tempója. Az indoklás szerint a laborok közel kerülhetnek az AI-kutatás automatizálásához, és ekkor valós veszélye van annak, hogy a képességek gyorsabban nőnek, mint ahogy a társadalom és a biztonsági megoldások lépést tudnak tartani velük. Mind az OpenAI, mind az Anthropic hivatalosan is kiállt a petíció mellett; az Anthropic részéről Dario Amodei vezérigazgató és több társalapító is személyesen aláírta. Altman podcastos nyilatkozata lényegében ugyanezt a irányt erősíti: ő is arról beszélt, hogy előbb-utóbb szükség lehet a fejlesztés ütemének tudatos szabályozására. Korábban, 2023-ban még elutasította a hasonló, azonnali lassítást célzó felhívásokat, most viszont – részben a saját laborjukban történt Hugging Face-incidens hatására – nyitottabbá vált a gondolatra. A kihívás továbbra is ugyanaz: a rivális laborok és a kínai versenytársak közötti koordináció, illetve az, hogy a biztonsági aggodalmak és a gazdasági érdekek ne keveredjenek össze. Az OpenAI eddig inkább iparági, nem kormányzati szabályozást preferált; most viszont úgy tűnik, legalább a nemzetközi keretek kidolgozásában hajlandó együttműködni – csak működjön együtt az AI is a fejlesztők terveivel.