Az OpenAI kedden mutatta be a ChatGPT for Teens elnevezésű, életkor alapján korlátozó chatbot-verziót, amely automatikusan felismeri (vagy a felhasználó bevallása alapján azonosítja), ha valaki kiskorú, és ennek megfelelően korlátok közé szorított élményt biztosít a számára. A fejlesztés hátterében a 16 éves Adam Raine tavaly nyilvánosságra került, öngyilkossággal végződő ügye áll, amelyben a fiú szülei szerint a ChatGPT is szerepet játszott a tragédiában.
Hirdetés
Az új modell a korábban fokozatosan bevezetett oktatási funkciókra tereli a fiatal felhasználókat – például a lépésről-lépésre vezető Study Mode-ra és interaktív ábrákra –, így segítve a fejlődést. Emellett a cég kibővítette a szülői riasztási rendszert is: ha például egy összekapcsolt fiókkal rendelkező tinédzser evészavarra utaló beszélgetést folytat a chatbottal, a szülő értesítést kap. A frissített, 18 év alattiakra vonatkozó modellszabályzat szerint a rendszer nem használhat romantikus hangnemet, nem ösztönözhet érzelmi függőséget, és nem sugallhatja, hogy érzelmei vagy öntudata van.
A megkeresett gyermekvédelmi szakértők – köztük a Common Sense Media és a Fairplay nevű szervezetek képviselői, valamint egy evészavar-kutatásra szakosodott egyetemi oktató – vegyesen fogadták a bejelentést. Volt, aki fontos lépésnek nevezte, mások élesebben fogalmaztak: elhangzott, hogy a cégnek korábban is voltak hasonló tartalomkorlátozásai (öngyilkosság, erőszak, drogok témakörében), amelyek a tapasztalatok szerint idővel nem működtek megbízhatóan, vagy egyszerűen kikerülhetők voltak.
A szakértők legnagyobb aggálya magának az életkor-becslő rendszernek a megbízhatósága. Az OpenAI nem tett közzé adatokat arról, milyen arányban ismeri fel tévesen a felnőtteket tinédzserként, illetve fordítva – ez pedig különösen annak fényében aggasztó, hogy a cég egy korábbi, felnőtteknek szánt funkció bevezetését is elhalasztotta hasonló pontatlansági problémák miatt. Azzal is számolni kell, hogy a tinédzserek VPN-nel vagy egyéb módszerekkel megkerülhetik a korhatár-ellenőrzést, ahogy azt más platformoknál – például a Discordnál – is tapasztalták.
Kérdéses az is, mennyire tartható az OpenAI egyik legkonkrétabb ígérete: hogy az AI által minden aggályosnak jelölt tartalmat élő munkatárs ellenőriz, és a szülők egy órán belül értesítést kapnak, ha az valóban kifogásolható. A szakértők szerint ehhez jelentős méretű, globálisan is jelenlévő emberi moderátorcsapatra lenne szükség, hiszen a kulturális kontextus – vagyis például az, hogy egy tinédzser hogyan beszél a szorongásáról – országonként eltérő lehet. A Common Sense Media korábbi tesztje szerint a cég szülői figyelmeztetései a múltban akár 24-48 órát is késtek, sőt előfordult, hogy egyáltalán nem érkeztek meg, egyértelműen aggasztó üzenetek esetén sem.
Egyöntetű kritika érte a rendszer azon alapfeltételét is, hogy a szülőnek és a gyermeknek előbb össze kell kapcsolniuk a fiókjukat ahhoz, hogy a védelmi funkciók egyáltalán működjenek – a szakértők szerint a szülők túlnyomó többsége eleve nem használ ilyen funkciókat, részben mert azokat a platformok szándékosan eldugják a beállítások közé. Egy friss, négy közösségi platformot vizsgáló kutatás szerint 86 tesztelt biztonsági funkciónak közel a 60 százaléka vagy nem működött a leírtak szerint, vagy nehezen volt kezelhető. Ez pedig a Fairplay szerint jól mutatja, hogy az alapértelmezett, felhasználói beavatkozást nem igénylő védelmi megoldások sokkal hatékonyabbak lehetnének, mint azok a rendszerek, ahol a szülőkre kell bízni a védelmi funkciók bekapcsolását.
