Alerta! Public Citizen Exige Retirada do Sora 2 da OpenAI: Deepfakes e Riscos à Democracia em Jogo!

está agora exigindo que a OpenAI retire o Sora 2 do público, escrevendo em uma carta de terça-feira para a empresa e o CEO Sam Altman que o lançamento apressado do aplicativo, para que pudesse ser lançado antes dos concorrentes, mostra um "padrão consistente e perigoso da OpenAI correndo para o mercado com um produto que é inerentemente inseguro ou carente de barreiras necessárias". O Sora 2, diz a carta, demonstra um "desprezo imprudente" pela segurança do produto, bem como pelos direitos das pessoas à sua própria imagem e à estabilidade da democracia. O grupo também enviou a carta ao Congresso dos EUA. A OpenAI não respondeu imediatamente a um pedido de comentário na terça-feira. "Nossa maior preocupação é a ameaça potencial à democracia", disse o defensor de políticas de tecnologia da Public Citizen, J.B. Branch, em uma entrevista. "Acho que estamos entrando em um mundo em que as pessoas realmente não podem confiar no que veem. E estamos começando a ver estratégias na política em que a primeira imagem, o primeiro vídeo que é lançado, é o que as pessoas lembram." Branch, autor da carta de terça-feira, também vê preocupações mais amplas com a privacidade das pessoas que impactam desproporcionalmente as populações vulneráveis ​​online. A OpenAI bloqueia a nudez, mas Branch disse que "as mulheres estão se vendo sendo assediadas online" de outras maneiras, como com conteúdo de nicho fetichizado que passa pelas restrições dos aplicativos. A agência de notícias 404 Media relatou na sexta-feira uma enxurrada de vídeos feitos pelo Sora de mulheres sendo estranguladas. A OpenAI apresentou seu novo aplicativo Sora em iPhones há mais de um mês. Foi lançado em telefones Android na semana passada nos EUA, Canadá e vários países asiáticos, incluindo Japão e Coreia do Sul. Grande parte da maior reação veio de Hollywood e outros interesses de entretenimento, incluindo a indústria japonesa de mangá. A OpenAI anunciou suas primeiras grandes mudanças poucos dias após o lançamento, dizendo que "a moderação excessiva é super frustrante" para os usuários, mas que é importante ser conservador "enquanto o mundo ainda está se ajustando a essa nova tecnologia". Isso foi seguido por acordos anunciados publicamente com a família de Martin Luther King Jr. em 16 de outubro, impedindo "representações desrespeitosas" do líder dos direitos civis enquanto a empresa trabalhava em melhores salvaguardas, e outro em 20 de outubro com o ator de "Breaking Bad" Bryan Cranston, o sindicato SAG-AFTRA e agências de talentos. "Isso é bom e justo se você for famoso", disse Branch. "É meio que um padrão que a OpenAI tem, onde eles estão dispostos a responder à indignação de uma população muito pequena. Eles estão dispostos a lançar algo e se desculpar depois. Mas muitos desses problemas são escolhas de design que eles podem fazer antes de lançar." A OpenAI enfrentou reclamações semelhantes sobre seu produto principal, o ChatGPT. Sete novas ações judiciais movidas na semana passada nos tribunais da Califórnia afirmam que o chatbot levou as pessoas ao suicídio e a delírios prejudiciais, mesmo quando não tinham problemas de saúde mental anteriores. Apresentadas em nome de seis adultos e um adolescente pelo Social Media Victims Law Center e pelo Tech Justice Law Project, as ações judiciais alegam que a OpenAI lançou o GPT-4o prematuramente no ano passado, apesar dos avisos internos de que era perigosamente bajulador e psicologicamente manipulador. Quatro das vítimas morreram por suicídio. A Public Citizen não esteve envolvida nas ações judiciais, mas Branch disse que vê paralelos no lançamento apressado do Sora. Ele disse que eles estão "colocando o pé no acelerador sem levar em consideração os danos. Muito disso parece previsível. Mas eles preferem lançar um produto por aí, fazer com que as pessoas o baixem, fazer com que as pessoas fiquem viciadas nele em vez de fazer a coisa certa e testar essas coisas com antecedência e se preocupar com a situação dos usuários cotidianos." A OpenAI passou a semana passada respondendo a reclamações de uma associação comercial japonesa que representa animadores famosos como o Studio Ghibli de Hayao Miyazaki e fabricantes de videogames como Bandai Namco e Square Enix. A OpenAI disse que muitos fãs de anime querem interagir com seus personagens favoritos, mas a empresa também estabeleceu barreiras para impedir que personagens conhecidos sejam gerados sem o consentimento das pessoas que possuem os direitos autorais. "Estamos interagindo diretamente com estúdios e detentores de direitos, ouvindo o feedback e aprendendo como as pessoas estão usando o Sora 2, inclusive no Japão, onde as indústrias culturais e criativas são profundamente valorizadas", disse a OpenAI em um comunicado sobre a carta da associação comercial na semana passada.