A OpenAI revelou novas diretrizes para a geração de imagens no GPT-4o, marcando uma mudança que concede aos usuários mais liberdade criativa enquanto mantém salvaguardas de segurança.
Joanne Jang, responsável pelo comportamento dos modelos na empresa, detalhou as motivações por trás dessas mudanças em um post no Substack. Segundo ela, a organização está se afastando de restrições severas de conteúdo para oferecer maior autonomia aos usuários. “Os funcionários do laboratório de IA não devem ser os árbitros do que as pessoas podem ou não criar”, explica Jang.
Para figuras públicas, a OpenAI agora oferece uma opção de “opt-out” em vez de aplicar restrições generalizadas. A empresa também repensou sua abordagem em relação a conteúdos potencialmente sensíveis, trabalhando para evitar vieses implícitos na filtragem de informações. Políticas anteriores, por exemplo, bloqueavam solicitações como “faça a pessoa parecer mais pesada” ou “deixe os olhos dessa pessoa com traços mais asiáticos”, o que, de forma não intencional, sugeria que tais características fossem indesejadas. As novas diretrizes buscam eliminar esses julgamentos de valor involuntários.
Mesmo símbolos controversos, como a suástica, não são totalmente proibidos, pois podem ter usos legítimos em contextos educacionais ou culturais. Em vez disso, a OpenAI está desenvolvendo ferramentas técnicas para detectar e prevenir o uso indevido desses elementos.
Medidas especiais continuam em vigor para menores, com salvaguardas rigorosas aplicadas tanto na pesquisa quanto no uso de produtos. A empresa afirma que as diretrizes serão constantemente refinadas com base no feedback e na experiência dos usuários.
Navegando pressões da indústria e políticas
Embora Jang apresente as mudanças como uma evolução natural no pensamento da OpenAI, há nuances mais profundas na questão. Essa alteração ocorre em um cenário onde concorrentes, como a xAI, adotam uma abordagem mais permissiva. Por exemplo, o Grok 3 praticamente não impõe restrições na geração de imagens com seu modelo Aurora.
O contexto mais amplo inclui também a mudança de atitudes em relação à moderação de conteúdo nos Estados Unidos. Sob a bandeira da liberdade de expressão, conteúdos problemáticos como discursos de ódio, desinformação e símbolos extremistas têm ganhado mais visibilidade em espaços públicos. Assim, as empresas de IA enfrentam o desafio de equilibrar padrões éticos com pressões políticas que demandam políticas de moderação – principalmente em uma tentativa de serem “menos progressistas”.
A capacidade de geração de imagens do GPT-4o já despertou controvérsias relacionadas à replicação de estilos artísticos. Desde o seu lançamento, usuários têm criado diversas imagens no estilo do renomado estúdio de animação Ghibli – incluindo um trailer de “O Senhor dos Anéis” que se tornou viral. A OpenAI esclarece que, embora nomes de artistas continuam bloqueados nos pedidos, os estilos de estúdio permanecem permitidos para incentivar criações artísticas por fãs. Curiosamente, o ChatGPT às vezes impede solicitações relacionadas ao conteúdo do Ghibli, citando questões de direitos autorais, o que parece conflitar com o comportamento proposto pelo modelo. Jang não comentou sobre direitos autorais em seu post.
- A OpenAI introduziu a geração de imagens no ChatGPT com o GPT-4o, optando por uma moderação de conteúdo mais granular em vez de proibições gerais.
- Joanne Jang detalhou as mudanças em um post no Substack, levantando questões sobre o equilíbrio entre a liberdade do usuário e a responsabilidade na implantação da IA.
- A nova abordagem surge enquanto concorrentes, como a xAI, impõem menos restrições na geração de imagens, pressionando a empresa a se adaptar ao mercado.
