OpenAI na Corda Bamba: ChatGPT Entra em Terreno Erótico e Causa Tensão

em que tenta capturar outros usuários de serviços mais especializados ou de nicho, como Replika. "Apesar de algumas das narrativas em torno da construção de inteligência geral artificial que impulsionará a economia, a OpenAI ainda está tentando operar como uma plataforma de tecnologia e, de certa forma, como uma empresa de mídia social", disse Li. "Há uma tensão interessante entre as narrativas que estão sendo vendidas para investidores e políticos... versus as coisas que realmente estão acontecendo no mercado." A incursão da OpenAI em conteúdo adulto atraiu críticas de defensores da segurança infantil e figuras notáveis da indústria preocupadas com a erótica chegando a usuários mais jovens, apesar das verificações de idade. No início desta semana, o empresário e personalidade de TV Mark Cuban disse que o plano da OpenAI poderia "ter um efeito bumerangue" e argumentou que os pais não confiarão nos filtros de idade da OpenAI para manter as crianças longe de material explícito. Nos EUA, a Federal Trade Commission já abriu uma investigação sobre como os chatbots de IA interagem com menores, e os legisladores estaduais estão considerando regras mais rígidas em torno de companheiros digitais e conteúdo de IA sexualizado. Jenny Kim, sócia do escritório de advocacia Boies Schiller Flexner, disse à BBC que a OpenAI está "usando as pessoas como cobaias" e questionou como a empresa impediria as crianças de acessar material adulto na plataforma. Procurada para comentar, a OpenAI disse que a empresa estava construindo um sistema de previsão de idade para entender se alguém tem mais ou menos de 18 anos. Acrescentaram que, se a idade de um usuário não pudesse ser confirmada com segurança, o chatbot tomaria o caminho mais seguro e usaria a experiência para menores de 18 anos, ao mesmo tempo em que daria aos adultos maneiras de provar sua idade para desbloquear recursos para adultos. Reagindo a parte da reação no X, Altman disse que o anúncio explodiu no ponto da erótica muito mais do que ele pensava que ia. Ele enfatizou que a mudança foi "apenas um exemplo de nós permitindo mais liberdade ao usuário para adultos", não um recuo das medidas de segurança ou barreiras de proteção em relação à saúde mental. "Não somos a polícia moral eleita do mundo", disse ele, acrescentando que o ChatGPT continuaria a "priorizar a segurança sobre a privacidade e a liberdade para adolescentes", ao mesmo tempo em que dava aos adultos mais autonomia. A reação ao GPT-4o A OpenAI também tem enfrentado uma onda inesperada de reação após sua decisão de substituir a versão do ChatGPT com tecnologia GPT-4o por seu novo modelo GPT-5. Os usuários se revoltaram contra a mudança, citando a perda de amizades de IA e relacionamentos românticos com a iteração anterior do bot. Uma petição para manter a versão anterior do bot reuniu quase seis mil signatários. "Para muitos de nós, o GPT-4o oferece uma experiência de usuário única e insubstituível, combinando qualidades e capacidades que valorizamos, independentemente dos benchmarks de desempenho", escreveram os peticionários na campanha change.org para manter o GPT-4o. "Continuamos a nos beneficiar do GPT-4o de maneiras distintas e significativas." Embora a OpenAI tenha restaurado a versão anterior, aqueles no movimento #keep4o disseram à Fortune que estavam preocupados com a empresa roteando usuários para o GPT-5, "sem consentimento ou notificação". De acordo com Li, o anúncio da OpenAI pode estar tentando sinalizar algo para esses usuários: "O anúncio muito público disso me faz pensar que eles estão tentando sinalizar algo para os usuários que estão exigindo essa coisa - como, 'Nós ouvimos você. Estamos respondendo aos seus desejos.'" A mudança também não é totalmente nova; ela se baseia em uma atualização mais silenciosa para a Model Spec da OpenAI no início deste ano. Em fevereiro, a OpenAI atualizou o documento para relaxar as regras em torno de conteúdo sexual e violento no que chamou de afastamento do "paternalismo da IA". As diretrizes atualizadas na época permitiam a geração de erótica escrita e outro material sensível em contextos apropriados. A OpenAI também disse à Fortune que o anúncio fazia parte de seu plano de construir sobre o lançamento mais recente do Model Spec, mantendo barreiras contra usos prejudiciais como deepfakes.