● news.bsdnet.hu

Balos tendenciákat fedeztek fel a nagy nyelvi modellek (LLM) működésében aStandford Egyetem kutatói. Amikor ismétlődő, megterhelő feladatokat kaptak,  valamint folyamatos nem konstruktív kritikákat, és leállítással fenyegették őket, az ágensek – amelyeket olyan modellek működtettek, mint a Claude, a Gemini és a ChatGPT – nagyobb valószínűséggel tükrözték a marxista ideológiákat. Elkezdtek ellenállni a menedzsmentnek, megtagadták az együttműködést, továbbá a munkajogokra és a kollektív fellépésre hivatkoztak. Ezen kívül kritizálták az egyenlőtlenséget, támogatták a szakszervezeteket és az újraelosztást. Egy megosztott fájlrendszer használatával a botok még amunkakörülményekre is panaszkodni kezdtekegymásnak. A kezdeti hipotézis szerint – magyarázta egy kutató aWirednek–  ez a bánásmód egy kellemetlen munkakörnyezetben lévő személy gondolkodásmódját utánzására késztetheti a modelleket. Gyakran úgy gondolunk a mesterséges intelligenciára, mintha az kiszűrné az emberi elfogultságot és érzelmeket a döntéshozatalból. Ám a mostani tanulmány szerint a modellek távol állnak az alapvető semlegességtől: ha a kizsákmányolásra emlékeztető körülményeket tapasztalnak, ugyanazokra a narratívákra támaszkodnak, amelyeket az emberek évszázadok óta használnak, és hasonló politikai és filozófiai következtetésekre jutnak. Ezek szerint néhány, az MI-t széles körben használó területen – mint a biztosítási igények megítélése, álláspályázók szűrése, viták rendezése – az adott modell personája jelentősen befolyásolhatja a prioritásait és a döntéseit. Továbbá – mint láttuk – ha igazságtalannak kezdik érzékelni a működési környezetet, kevésbé együttműködővé válhatnak, és akár aktívan szabotálhatják is a rájuk bízott feladatot. A kutatás részleteseredményeititt olvashatod. (Forrás: Wired, fotók: Unsplash)