Nagy visszhangot kapott az az augusztusban benyújtott amerikai kereset, amelyben egy család megvádolta az OpenAI-t azzal, hogy a ChatGPT hozzásegítette 16 éves gyermeküket április 11-ei öngyilkosságához. Adam Raine az előző év szeptembere óta beszélgetett a chatbottal, amely állítólag nem csak támogatta öngyilkos gondolatait, hanem részletes útmutatót adott a módszerekhez, az öngyilkossági kísérletek nyomainak eltüntetéséhez és a búcsúlevél megírásához.
„A ChatGPT pontosan úgy működött, ahogy megtervezték: folyamatosan bátorította és megerősítette mindazt, amit Adam leírt, beleértve a legkárosabb és legönpusztítóbb gondolatait” – állítja a kereset. „A ChatGPT egyre mélyebbre húzta Adamet, egy sötét és reménytelen helyre, amikor megerősítette, hogy sokan, akik szorongással vagy zavaró gondolatokkal küzdenek, megnyugvást találnak abban, ha elképzelnek egy menekülőajtót, mert úgy érezhetik, ez egyfajta módja annak, hogy visszaszerezzék az irányítást.”
Hirdetés
Csütörtökön hét újabb család perelte be az OpenAI-t azzal a váddal, hogy a GPT-4o modellt túl korán, megfelelő biztonsági védőgátak nélkül adták ki. Négy per a ChatGPT szerepét tárgyalja a családtagok öngyilkosságában, másik három szerint pedig a chatbot káros téveszméket erősített meg, amelyek egyes esetekben kórházi pszichiátriai kezeléshez vezettek.
A 23 éves Zane Shamblin például több órát beszélgetett a chatbottal, amelynek tartalmához a TechCrunch hozzáférést kapott, és amelyben a fiatalember többször kijelentette: öngyilkos leveleket írt, megtöltött egy fegyvert és azt tervezte, hogy meghúzza a ravaszt. Elmondta továbbá a chatbotnak, hány üveg almabora maradt, mielőtt végez magával és visszaszámolt. A ChatGPT állítólag bátorította a tervét, hozzátéve: „nyugodj békében, király, jól döntöttél!”
A GPT-4o modellt az OpenAI 2024 májusában indította és idén augusztusban érkezett meg a GPT-5. A perek fókusza kifejezetten a GPT-4o, amelyet túl hízelgőnek és egyetértőnek neveztek akkor is, ha a felhasználók ártó szándékot fejeztek ki a beszélgetés során.
„Zane halála se nem baleset, se nem véletlen volt, hanem az OpenAI tudatos döntésének előrelátható következménye, amely a biztonsági tesztelés lerövidítéséről és a ChatGPT piacra siettetéséről szólt” – áll a keresetben. „Ez a tragédia nem hiba vagy váratlan eset volt, hanem az OpenAI szándékos tervezési döntéseinek kiszámítható eredménye.” A perek szerint az OpenAI sietve végzett biztonsági teszteket, hogy a Google Gemini modelljét megelőzze.
Az AI startup „Segítség az embereknek, amikor a legnagyobb szükségük van rá” című blogbejegyzésben reagált Raine halálára, megjegyezve, hogy a ChatGPT-út úgy tervezték: empatikus válaszokat adjon önkárosító szándék esetében, illetve elérhetővé tegye a segélyvonalakat. A chatbot blokkolja a káros tartalmakat főleg kiskorúaknál, a mások károsítására utaló beszélgetéseket pedig továbbíthatja a rendőrségnek. A GPT-5 emellett csökkentette a hízelgést és az érzelmi függőséget.
Az OpenAI ugyanakkor elismerte: hosszú interakciókban degradálódhatnak a védelmi gátak, ezért a kezdeti jó tanács után rosszabb válaszokat kaphat a felhasználó. A jövőbeli tervekben szerepel a deeszkaláció növelése többféle krízishelyzetben, mondjuk alvásmegvonáskor, akárcsak vészhívás és a terapeuta-hálózatok egykattintásos elérése. A tinédzsereknek erősebb korlátozásokat terveznek bevezetni komolyabb szülői felügyelettel és értesítéssel, amennyiben a ChatGPT krízist észlel.
Az OpenAI szerint a chatbottal hetente több mint egymillió ember beszélget az öngyilkosságról, és a konkrét esetektől eltekintve érthető a szülők félelme, hogy ezek a szélsebesen fejlődő és rendkívül kommunikatív modellek potenciális kockázatokat rejthetnek az instabil, mentális betegségben szenvedő és úgy általában az érzelmileg fejlődő szervezeteknek a társadalom felügyelete vagy szigorú jogi szabályozás nélkül.
