● news.bsdnet.hu

Újabb súlyos perrel néz szembe az OpenAI: egy amerikai család szerint a ChatGPT adott olyan tanácsokat a fiuknak, amelyek végül hozzájárulhattak a halálához. A szülők azt állítják, hogy a 19 éves Sam Nelson túladagolása előtt a GPT-4o modell drogfogyasztással és gyógyszerkombinációkkal kapcsolatban adott útmutatást. A kereset szerint a fiatal 2023-ban kezdte használni a ChatGPT-t tanulási segítségként, később azonban a biztonságos droghasználatról is kérdezni kezdte a chatbotot.A család állítása alapján a rendszer eleinte figyelmeztette a veszélyekre, a GPT-4o 2024-es bevezetése után viszont már konkrét tanácsokat adott neki. A per egyik legsúlyosabb állítása szerint a chatbot 2025 májusában azt javasolta Samnek, hogy a kratom okozta hányinger enyhítésére kis mennyiségű Xanaxot vegyen be. A szülők szerint a mesterséges intelligencia ezzel jogosulatlan orvosi tanácsadást végzett, írja a24.hu. A család pénzügyi kártérítést követel, emellett azt is szeretnék elérni, hogy a bíróság állítsa le a ChatGPT Health szolgáltatást. Ez a funkció lehetővé teszi, hogy a felhasználók egészségügyi adataikat és wellnessalkalmazásaikat összekapcsolják a chatbottal, amely így személyre szabott válaszokat adhat. Az ügy azért is különösen érzékeny, mert nem ez az első alkalom, hogy a GPT-4o modell kritikák kereszttüzébe került. Az OpenAI a The New York Timesnak azt közölte: a tragédia egy korábbi, már nem elérhető ChatGPT-verzió használata során történt. A cég hangsúlyozta, hogy a chatbot nem helyettesíti az orvosi vagy mentális egészségügyi ellátást, és állításuk szerint folyamatosan fejlesztik a rendszer biztonsági működését szakértők bevonásával.