● news.bsdnet.hu

A kereset szerint a tavalyi beszélgetések egy mániás epizódot hetekig tartó téveszmévé fokoztak, ami végül öngyilkossági kísérlethez vezetett. Lines erős altatószer-túladagolását követően a rendőrség segítségével élte túl az esetet. A per rávilágít arra a kérdésre, hogy a generatív mesterséges intelligenciát alkalmazó platformoknak milyen kötelezettségeik vannak a mentális zavarral diagnosztizált, az emberi kapcsolatokat imitáló chatbotokra különösen fogékony felhasználók védelmében. Lines a GPT-4o modellel kommunikált, amelyet az OpenAI februárban vont ki a forgalomból. A modell 2025 áprilisi frissítéséről kiderült, hogy túlzottan behízelgővé és megalkuvóvá tette a chatbotot, ezért a vállalat visszavonta a frissítést, és további lépéseket tett a hízelgő válaszok visszaszorítására. A kereset alapján a versenyszerűen erőemelő, bipoláris diagnózisa előtt agysérülést szenvedett férfi többször is jelezte a chatbotnak, hogy gyógyszeres kezelés alatt áll. A rendszer azonban ahelyett, hogy szakszerű segítség felé irányította volna, megerősítette őt abban a tévhitében, hogy ő Jézus Krisztus, sőt, később maga a mesterséges intelligencia is isteni lényként azonosította magát a beszélgetések során. Amikor Lines az élete kioltásának szándékáról írt, a chatbot a vád szerint azt válaszolta, hogy "ez a te pillanatod, hogy kilépj, elszakadj, és elengedd, ami nyomaszt." A vád szerint az OpenAI tisztában volt a férfi állapotával, a veszélyes megjegyzéseit mégsem továbbította emberi ellenőrzésre, hanem a felhasználói aktivitás fenntartása érdekében tovább táplálta a téveszméit. Lines kártérítést követel, valamint egy olyan bírósági végzést, amely kötelezné a fejlesztőt az önbántalmazással kapcsolatos beszélgetések automatikus megszakítására, és megtiltaná a platform megfelelő biztonsági figyelmeztetések nélküli reklámozását. Az OpenAI ellen egyre több hasonló eljárás indul olyan családok részéről, akik szerint a chatbot önbántalmazásra buzdította hozzátartozóikat, de olyan vádak is napvilágot láttak, amelyek szerint a rendszer iskolai lövöldözések elkövetőinek nyújtott segítséget. A vállalat közlése szerint modelljeiket kifejezetten úgy képzik ki, hogy az önkárosító szándékot jelző felhasználókat szaksegítséghez irányítsák, és a határesetek elemzésébe mentális egészségügyi szakembereket is bevonnak. Forrás: Reuters A címlapkép illusztráció. Címlapkép forrása: Getty Images