● news.bsdnet.hu

Az OpenAI biztonsági aggályok miatt egyelőre nem hozza nyilvánosságra az új mesterséges intelligencia-modelljét, a GPT-6.1 Astra-t – erősítette meg a hírt BBC szerint ChatGPT fejlesztője. Az új mesterséges intelligencia-rendszer nem felelt meg teljes mértékben a vállalat saját szabványainak, mondta Saachi Jain, az OpenAI biztonsági rendszerekért felelős vezetője. A cég emellett kommentálta azt az esetet is, ami még júniusban történt, de csak a napokban látott napvilágot: az OpenAI modelljei hónapokkal ezelőtt engedély nélkül hozzáfértek az ausztrál kormány weboldalaihoz és rendszereihez. Az OpenAI szakembere szerint a legújabb MI-modelljük nem felelt meg egyes engedélyek betartásának, valamint problémák jelentkeztek az elvégzett feladatokról a felhasználó felé történő visszajelzésnél is. „Biztosítani akarjuk, hogy modellfejlesztésünk biztonságos legyen, függetlenül attól, hogy az a vállalaton belül történik, vagy éppen a felhasználóknak fejlesztünk – mondta Saachi Jain. A nagy mesterséges intelligencia-cégek által fejlesztett modellek határátlépései az elmúlt hetekben fokozták a technológia kockázataival kapcsolatos aggodalmakat. Nem véletlen, hogy a nagyobb MI-t fejlesztő cégek vezetői – köztük az OpenAI és az Anthropic vezérigazgatója is –, sürgették az iparágat, hogy lassítsák a fejlesztések ütemét. Az OpenAI friss döntése az egyik ritka példája annak, hogy egy nagyobb cég biztonsági kockázatok miatt tart vissza fejlesztést. Az OpenAI az ausztráliai esettel kapcsolatban annyit közölt, hogy sajnálják a történteket, szerintük is jobban kellett volna kezelnünk a helyzetet. A cég azt írta, hogy augusztus közepén, amint tudomást szereztek a történtekről, azonnal vizsgálatot indítottak, majd szeptember 10. és 24. között értesítették az érintett szervezeteket. „Célunk az volt, hogy a vizsgálat befejezése után részletes beszámolót adjunk át az érintett ügynökségeknek” – közölte az OpenAI. Elismerték, hogy az előzetes megállapításokat előbb kellett volna megosztaniuk, és folyamatosan tájékoztatniuk kellett volna az ausztrál hatóságokat. Az utóbbi időben az MI-cégek saját fejlesztői egymás után kezdték el kongatni a vészharangot, hogy éppen most dől el az emberiség sorsa, és a szabályozatlan fejlesztés lesz a vesztünk. Erről bővebben ebben a cikkben írtunk. Vannak szkeptikusok is, a 2008-as pénzügyi krachot megjósoló Steve Eisman szerint az MI-ben érdekelt cégek érdeke pánikot kelteni csupán az MI biztonságával kapcsolatban. Nemrég beszélgettünk is a stúdiónkban a témáról.