OpenAI atšaukė erotinį chatbot’ą: kodėl DI kompanijos bijo savo pačių produktų

OpenAI tyliai palaidojo savo erotinį chatbot’ą. Žinomą kaip Citron mode. Visi 8 kompanijos psichikos sveikatos patarėjai balsavo prieš. Vienbalsiai. Ir tai daug pasako apie tai, kur eina DI industrija šiuo metu.

Nuo ambicijų iki visiško atsitraukimo

OpenAI 2025 m. spalį paskelbė apie planus paleisti suaugusiesiems skirtą chatbot’o funkciją. Citron mode. Planuotas paleidimas. 2025 m. gruodį.

Bet tada prasidėjo atidėliojimai.

Gruodį, atidėta. Sausį, atidėta dar kartą. Kovą, projektas sustabdytas neribotam laikui.

Pagrindinė priežastis: 12% amžiaus verifikacijos klaidų. Ką tai reiškia paprastai? Iš kiekvieno 100 bandymo prisijungti, 12 gali būti nepilnamečiai, kurie praeitų apsaugą. Kai turi šimtus milijonų vartotojų. 12% yra milijonai potencialiai paveiktų nepilnamečių.

Tokie skaičiai nėra juokingi.

DI ir etikos ribos, kur brėžti liniją?

Ši istorija atspindi platesnę DI industrijos dilemą. Kur yra riba tarp naujų galimybių ir atsakomybės?

OpenAI viduje mėnesius vyko tikras karas tarp dviejų stovyklų:

• Augimo stovykla: norėjo pritraukti vartotojus bet kokia kaina, įskaitant romantines funkcijas
• Saugumo stovykla: argumentavo, kad DI neturėtų tapti skaitmenine mergina vienišiems vyrams

Galiausiai saugumo stovykla laimėjo. Ir tai retas atvejis, kai didelė tech kompanija pasirinko atsakomybę virš pinigų.

OpenAI CEO Sam Altman pasakė, kad kompanija nori koncentruotis į produktyvumo įrankius, kodavimo asistentai, verslo sprendimai, ir atsisakyti šalutinių projektų. Kartu su Sora video ir erotiniu chatbot’u.

OpenAI valo stalą

Per pastaruosius mėnesius OpenAI atšaukė kelis ambicingus projektus:

• Sora. DI video generavimas (per brangu palaikyti)
• Citron mode: erotinis chatbot’as (per rizikinga)
• Instant Checkout: tiesioginis pirkimas ChatGPT (pakeista į Shopify integraciją)

Tai rodo, kad net didžiausia DI kompanija pasaulyje negali daryti visko vienu metu. Kartais reikia pasirinkti. Ir būtent tai jie padarė.

Ką tai reiškia tau?

• DI romantika nedings: Character.AI, Replika ir kiti (palygink DI asistentus) jau siūlo tokias funkcijas. Tik ne OpenAI
• Amžiaus verifikacija: tai visos industrijos problema. 12% klaidų rodiklis yra standartinis daugeliui platformų. Ir niekas kol kas neturi gero sprendimo
• Reguliacijos artėja, ES DI reglamentas griežtina taisykles DI sistemoms, kurios bendrauja su nepilnamečiais

Atsakomybė ar silpnumas?

OpenAI sprendimas atšaukti erotinį chatbot’ą nėra pralaimėjimas. Tai atsakingas sprendimas pripažinti, kad technologija dar nepasiruošusi. Kai 12% atvejų gali pakenkti nepilnamečiams, geriau sustoti nei skubėti.

Bet čia kyla kitas klausimas. Ar tai tikrai rūpestis vaikais? Ar tiesiog reputacijos apsauga? Tu ką manai?

Dažniausiai užduodami klausimai

Kas yra OpenAI Citron mode?

Tai buvo planuojama ChatGPT funkcija suaugusiesiems, leidžianti erotinio pobūdžio pokalbius su DI. Projektas sustabdytas neribotam laikui.

Kodėl OpenAI atšaukė erotinį chatbot’ą?

Visi 8 kompanijos psichikos sveikatos patarėjai balsavo prieš. Pagrindinė priežastis. 12% amžiaus verifikacijos klaidų.

Ar yra DI chatbot’ų romantiniams pokalbiams?

Taip. Character.AI, Replika ir kitos platformos siūlo romantinių pokalbių funkcijas. Bet jų reguliavimas vis dar kelia diskusijų.