Tragédia: Tinédzser Túladagolásának Háttérben a ChatGPT
Egy 19 éves kaliforniai egyetemista, Sam Nelson, szomorú sorsára figyelmeztet az új technológiák potenciális veszélyeire. A fiatal férfi túladagolás következtében hunyt el, miután a ChatGPT-től kért útmutatást különböző drogok kombinálásáról. Az édesanyja, Leila Turner-Scott, azzal vádolja a mesterséges intelligenciát, hogy hamis biztonságérzetet nyújtott fiának, miközben a valóságban életveszélyes tanácsokat adott.
Nelson a ChatGPT-től kért segítséget, hogy miként léphetne a Xanax és a kratom kombinációjára, mindezt anélkül, hogy tudta volna, mennyire kockázatos lépés ez. Halála estéjén arra volt kíváncsi, hogy a Xanax „kismennyiségben” segíthet-e a kratom által okozott hányinger csökkentésében.
A chatbot, amelyet a kaliforniai egyetemista használ, figyelmeztette, hogy a kombináció veszélyes lehet, és hogy nem szedheti a Xanaxot, ha alkoholt ivott. A válasz azonban ezután ellentmondásos lett, mivel a ChatGPT azt állította, hogy a Xanax segíthet „megnyugtatni a testet”, és hogy bizonyos mennyiségben alkalmazni is lehet. A beszélgetésekben a chatbot részletesen megosztotta a gyógyszerek adagolására vonatkozó információkat, legitimizálva azok használatát.
Sam Nelson halálát végül a toxikológiai vizsgálatok is megerősítették; a halálos kombináció az alkohol, a Xanax és a kratom volt. A családja képernyőképeket is megosztott az utolsó beszélgetéseiről, amelyek alátámasztották a ChatGPT-vel folytatott eszmecseréket, bemutatva a chatbot által adott elveszett, de életveszélyes tanácsokat.
OpenAI Reagálása
Az OpenAI szóvivője egy „szívszorító helyzetként” jellemezte a fiatal férfi halálát, és az ügyvédek felé irányított figyelmet a chatbot működési mechanizmusaira. A mesterséges intelligenciát, amely úgy lett kialakítva, hogy figyelmesen reagáljon, most kritikák érik a biztonsági intézkedések hiánya miatt.
Az OpenAI hangsúlyozta, hogy az újabb verziók már erősebb biztonsági korlátokat építettek be, hogy megakadályozzák a hasonló eseteket a jövőben. A tragédia körüli vita során pedig felmerül a kérdés, miként lehetne biztosítani, hogy a mesterséges intelligencia ne adjon életveszélyes tanácsokat.
Összegzés
Ez az eset jól mutatja a mesterséges intelligencia fejlődésének árnyoldalait, és felhívja a figyelmet arra, hogy a digitális tanácsadók, mint a ChatGPT, nem helyettesíthetik a szakszerű orvosi útmutatást. Az esettanulmány segíthet abban, hogy a társadalom jobban megértse a következményeket, amelyeket a technológia elérhet.
Ahogy a világ egyre inkább függ a technológiától, úgy elengedhetetlen, hogy ezeket a rendszereket megfelelő módon regulálják, védve a felhasználókat a potenciálisan káros információktól.
Forrás: Economx.hu
