Az OpenAI határozatlan időre elállt attól a tervétől, hogy felnőtteknek szánt, erotikus témájú chatbotfunkciót adjon ki – a döntést a FInancial Times szerint cégen belüli és befektetői aggályok is erősítették. A funkciót korábban 2025 októberében jelentették be, és eredetileg tavaly decemberre tervezték, de már akkor is csúszásba került, miközben a vállalaton belül vita folyt arról, egyáltalán érdemes-e piacra engedni.
Hirdetés
A sajtóértesülésekben „Citron mode” néven emlegetett, felnőtt tartalmakra kihegyezett mód nem kapott új megjelenési dátumot, és a beszámoló szerint az egyik technikai és szabályozási kihívás az volt, hogy olyan modelleket kellett volna áthangolni, amelyek korábban alapból kerülni próbálták az erotikus tartalmakat, miközben a tiltott, illegális irányok (például állatokkal kapcsolatos vagy vérfertőzés jellegű témák) kiszűrése is különösen kényes feladatnak bizonyult.
A cég álláspontja szerint hosszabb távú kutatásra lenne szükség ahhoz, hogy jobban lássák az erotikus beszélgetések hatásait, valamint azt, miként alakulhat ki erős felhasználói kötődés egy AI-hoz – az OpenAI úgy fogalmazott, egyelőre nincs elegendő empirikus bizonyíték a témában. Emellett azt is jelezték, hogy inkább a főeszközeikre (például a kódolási asszisztensekre) koncentrálnának, és háttérbe szorítják a „mellékküldetésnek” tekintett projekteket.
A felnőtt mód ötlete összefüggött azzal, hogy a vállalat korábban szülői felügyeleti és automatikus korbecslési megoldásokkal próbálta biztonságosabbá tenni a ChatGPT-t. Ugyanakkor a beszámolók szerint a „Citron mode” a befektetők körében is ellenérzéseket váltott ki, különösen egy rivális rendszer körüli botrány árnyékában, ahol deepfake, valós személyekről (köztük kiskorúakról is) készült meztelen képek generálása került a fókuszba. A cég alkalmazottai közül is volt, aki kockázatosnak tartotta az irányt, és egy vezető munkatárs állítólag távozott is az ügy miatt.
További problémát jelenthet az életkor-ellenőrzés pontossága: a vállalat által bevezetett technológia a hírek szerint tíz százalék feletti hibaaránnyal dolgozik, ami nagy felhasználói számok mellett így is jelentős mennyiségű kiskorú számára nyithatna kiskaput. Bár az OpenAI szerint ez az iparági átlagba eső tartomány, és a pontosság javításán tovább dolgoznak, nyilván nem akar perek sorába ütközni Sam Altman.
