● news.bsdnet.hu

A mesterségesintelligencia-kutatók évek óta hangoztatják, hogy a technológia árthat az emberiségnek. Annak ellenére, hogy sokan figyelmeztetnek arra a lehetőségre, hogy az emberek elveszíthetik az uralmat a technológia felett, egyesek gyanítják, hogy a maguk az MI cégek által leírt legrosszabb világvége-forgatókönyvek inkább szolgálják saját munkájuk fontosságának igazolását, mintsem a valóságot. Egyes kutatók azt feltételezik, hogy az MI-rendszerek atomháborút válthatnak ki azáltal, hogy elérik, hogy az országok robbanófejjel felszerelt rakétákat lőjenek ki egymásra. Egy tavalyi jelentésben a RAND Corp. kutatói arra a következtetésre jutottak, hogy „jelenleg” nem lenne lehetséges, hogy a mesterséges intelligencia a nukleáris fegyverek bevetését okozza „a parancsnoki és ellenőrzési rendszerekbe épített szigorú biztosítékok miatt”. A jelentés szerint azonban ez megváltozhat, ha a modelleket integrálják a nukleáris fegyverekkel kapcsolatos „döntési láncba”, vagy jogosulatlan hozzáférést szereznek ezekhez a rendszerekhez. Az AI egyik legnagyobb ígérete, hogy segíthet kezeléseket és gyógymódokat kifejleszteni a betegségekre. A betegségek gyógyításának másik oldala viszont az, hogy ugyanezek az eszközök betegségek létrehozására vagy veszélyesebbé tételére is használhatók. Az Anthropic közölte, hogy rendszerei blokkoltak egy segítségkérést a Claude nevű eszközükhöz egy olyan kutatási javaslat kapcsán, amely a szúnyogok által terjesztett chikungunya-vírus mutációinak felerősítésére irányult, hogy az fokozatosan veszélyesebbé váljon. Míg az ilyen kutatások felhasználhatók lennének jobb oltóanyagok és kezelések kifejlesztésére, az Anthropic szerint „a kórokozó veszélyesebbé tételére is felhasználhatók”. Néhány MI-kutató attól tart, hogy a modellek emberi engedély nélkül cselekednek, koordinálnak más modellekkel, vagy kijátsszák a felügyeletet. Ez nem rosszindulatú szándékból alakulna ki, hanem egyszerűen azért, mert az emberek útjában állhatnak a modell célja elérésének. A MI fejlődésének ütemét figyelembe véve Dario Amodei, az Anthropic vezérigazgatója arra figyelmeztetett, hogy a mesterséges intelligencia képes lehet „átvenni az uralmat” az internet felett, ami potenciálisan milliárdos károkat okozhat. Ez jelenthet áramhálózatokba, víz- vagy közlekedési rendszerekbe és pénzintézetekbe való betöréseket – olyan támadásokat, amelyek lehet, hogy nem jelentik az emberiség végét, de káoszt és emberéletek elvesztését okozhatják. A múltbéli szoftverhibákból eredő fennakadások rávilágítottak egy olyan digitalizált világ törékenységére, amely mindössze néhány szolgáltatótól függ a kulcsfontosságú számítástechnikai szolgáltatások terén, a nagy teljesítményű MI modellek pedig növelték a kiberfejlesztésekkel szembeni sebezhetőség miatti aggodalmakat. Egyes szakértők szerint azonban az az elképzelés, hogy a botok átveszik az uralmat az egész internet felett, meglehetősen elrugaszkodott a valóságtól - írja az apnews.com .