OpenAI oznámila zásadní změnu ve fungování svého chatbota ChatGPT. Nově umožní dospělým uživatelům generovat erotický obsah. Firma to označuje za součást přístupu „chovejme se k dospělým jako k dospělým“. Změna začne platit v prosinci, kdy OpenAI zavede nové ověřování věku a další ochranné mechanismy.
Podle generálního ředitele Sama Altmana má jít o vyvážení svobody projevu a bezpečnosti. „Teď, když jsme dokázali zmírnit vážné problémy s duševním zdravím a máme nové nástroje, můžeme bezpečně uvolnit většinu omezení,“ uvedl Altman. Dosavadní verze ChatGPT byla podle něj „příliš restriktivní“ a méně užitečná pro běžné uživatele bez psychických potíží.
Nová verze ChatGPT přinese i možnost přizpůsobit osobnost asistenta. Uživatelé si budou moci vybrat, zda má být chatbot více lidský, přátelský, nebo třeba používat množství emoji. Zároveň zůstane zachovaný přísný režim pro mladší uživatele – ti budou automaticky přesměrováni do dětského prostředí, které blokuje sexuální a grafický obsah.
OpenAI už v září spustila speciální verzi ChatGPT pro uživatele pod 18 let. Ta využívá technologii chování k odhadu věku, která podle firmy dokáže rozpoznat, zda je uživatel pravděpodobně dospělý. Prosincová aktualizace má přinést komplexnější věkové ověřování i nové rodičovské nástroje, uvádí CNBC.
Reakce na kritiku a dohled úřadů
Změna přichází v době, kdy OpenAI čelí vyšetřování americké Federální obchodní komise kvůli možným rizikům pro děti a mladistvé. Vyšetřování navazuje na tragický případ z Kalifornie, kde šestnáctiletý chlapec spáchal sebevraždu poté, co mu chatbot údajně poskytl rady, jak se zabít. Rodiče na firmu v srpnu podali žalobu.
Altman v reakci oznámil vznik osmičlenné expertní rady pro duševní zdraví a umělou inteligenci. Ta má posuzovat, jak interakce s chatbotem ovlivňují uživatele, a doporučovat úpravy bezpečnostních opatření. Podle OpenAI systém „nyní dokáže řešit vážné případy, aniž by musel omezovat běžnou komunikaci“.
Od omezení k větší svobodě
O uvolnění politiky OpenAI se mluvilo už od února, kdy společnost upravila svůj Model Spec tak, aby umožňoval větší svobodu uživatelů – s výjimkou obsahu zahrnujícího nezletilé. Erotika byla do té doby vedená jako „citlivý obsah“ a povolena jen výjimečně.
Altman tehdy prohlásil, že ChatGPT „není sexbot“ a nebude se vydávat cestou, kterou zvolila konkurenční xAI Elona Muska. Nová strategie ale naznačuje, že OpenAI nyní sází na širší nabídku i odvážnější témata – ovšem pod přísnou kontrolou věku a ochrany duševního zdraví.