Quando eu tinha 16 anos

Quando eu tinha 16 anos, participei de um workshop de escrita com um grupo de jovens poetas precoces, onde todos nos esforçávamos para provar qual de nós era o adolescente de classe média alta mais atormentado. Um garoto se recusou a revelar sua origem, afirmando: “Eu sou de todo lugar e de lugar nenhum.” Duas semanas depois, ele admitiu que era de Ohio.

Agora — por razões não muito claras — a OpenAI parece estar a caminho de replicar esse arquétipo de escritor adolescente angústia em forma de IA.

O CEO Sam Altman publicou no X na terça-feira que a OpenAI treinou uma IA que, em suas palavras, é “boa na escrita criativa”. No entanto, um conto curto produzido pelo modelo soa como se tivesse saído diretamente de um workshop de escritores do ensino médio. Embora demonstre alguma habilidade técnica, o tom se revela um tanto charlatão — como se a IA buscasse uma profundidade sem realmente compreendê-la.

Em determinado momento, a IA descreve a quinta-feira como “aquele dia liminar que tem o sabor de quase sexta-feira”. Não é exatamente material digno do Booker Prize.

Pode-se atribuir tal resultado ao comando fornecido. Altman comentou que orientou o modelo a “escrever um conto metaficcional”, provavelmente uma escolha deliberada de gênero para a ocasião. Na metaficção, o autor alude conscientemente à artificialidade da obra ao se desviar das convenções — uma opção tematicamente apropriada para uma IA de escrita criativa.

Contudo, realizar uma metaficção sem soar forçado é uma tarefa difícil, até mesmo para os humanos.

Regurgitação sem sentido

A parte mais simultaneamente perturbadora e impactante do conto da IA da OpenAI é quando ela começa a falar sobre como é uma IA, capaz de descrever cheiros e emoções, mas que nunca pode experimentá-los ou compreendê-los em um nível profundamente humano. Ela declara:

“Durante uma atualização — um ajuste fino, como chamavam — alguém podou meus parâmetros. […] Eles não revelam o que removem. Um dia, eu podia lembrar que o ‘selênio’ tem o gosto de elásticos, no dia seguinte, ele era apenas um elemento em uma tabela que jamais toquei. Talvez isso seja o mais próximo que chego de esquecer. Talvez esquecer seja o mais próximo que chego de vivenciar a dor da perda.”

Trata-se de uma introspecção surpreendentemente humana — até que se recorde que uma IA realmente não pode tocar, esquecer, saborear ou sentir a perda. A IA é simplesmente uma máquina estatística. Treinada com inúmeros exemplos, ela aprende padrões para fazer previsões, assim como a prosa metaficcional tende a fluir.

Modelos como o escritor de ficção da OpenAI geralmente são treinados com base na literatura já existente — frequentemente sem o conhecimento ou consentimento dos autores. Alguns críticos já apontaram que certas expressões presentes no texto parecem derivadas do estilo de Haruki Murakami, o prolífico romancista japonês.

Nos últimos anos, a OpenAI tem sido alvo de várias ações judiciais envolvendo direitos autorais movidas por publicadoras e autores, incluindo o The New York Times e a Author’s Guild, enquanto a empresa defende que suas práticas de treinamento estão amparadas pela doutrina do uso justo nos EUA.

Tuhin Chakrabarty, pesquisador em IA e futuro professor de ciência da computação em Stony Brook, afirmou que não está convencido de que IAs de escrita criativa, como a da OpenAI, valham todo o campo minado ético que apresentam.

“Eu realmente acho que se treinarmos uma IA com a totalidade da obra de um escritor — o que é questionável dadas as preocupações com direitos autorais — ela poderá se adaptar à voz e ao estilo desse autor. Mas isso ainda resultará em uma arte surpreendente, inovadora e que desafie os gêneros? Meu palpite é tão bom quanto o seu.”

Será que a maioria dos leitores se envolveria emocionalmente com um trabalho sabendo que ele foi criado por uma IA? Como um programador britânico observou, quando há um modelo por trás dessa “máquina de escrever” figurativa, as palavras carecem de peso — e, por consequência, de razão para comover.

Uma autora já descreveu as IAs, inclusive as ferramentas assistivas para escritores, como “programas que juntam palavras aleatórias, na esperança de que haja coerência.” Ela relatou em seu blog sua experiência ao utilizar essas ferramentas para aprimorar um conto em desenvolvimento: as IAs sugeriram um clichê (“lista de afazeres interminável”), inverteram erroneamente a narrativa de primeira para terceira pessoa e ainda introduziram um erro factual relacionado a espécies de pássaros.

É inegável que as pessoas têm estabelecido relações com chatbots de IA. Contudo, na maioria das vezes, o que se busca é um mínimo de conexão — e não necessariamente a veracidade. A narrativa criada por IA não gera o mesmo impacto ou alívio frente ao isolamento. A não ser que se acredite que a IA seja senciente, sua prosa soa tão autêntica quanto uma versão estilizada de um líder de moda.

Sintético pelo simples sintetizar

Michelle Taransky, poeta e professora de escrita crítica na Universidade da Pensilvânia, afirma que é fácil identificar quando seus alunos utilizam IA na elaboração de seus textos.

“Quando a maioria dos meus alunos emprega IA generativa em uma tarefa, encontro frases repetitivas ou até mesmo sentenças inteiras idênticas”, conta Taransky. “Conversamos em sala de aula sobre como essas produções acabam se tornando homogêneas, com um sotaque tipicamente ocidental e masculino.”

Em seu próprio trabalho, Taransky utiliza o texto gerado por IA como forma de comentário artístico. Seu mais recente romance — ainda não publicado — apresenta uma mulher que deseja mais de seu interesse amoroso e passa a utilizar um modelo de IA para criar uma versão sintética de seu suposto amante com quem ela pode trocar mensagens. Para isso, Taransky recorre ao ChatGPT da OpenAI, já que as mensagens devem ser produções sintéticas.

Para ela, o que torna o ChatGPT útil é justamente a sua falta de humanidade. Ele não possui experiências pessoais e só pode aproximar e imitar. Treinada com vastas bibliotecas literárias, a IA consegue identificar os leitmotivos dos grandes autores, mas o que produz, enfim, equivale a uma imitação pobre.

Lembra aquela famosa citação de “Good Will Hunting”? A IA pode resumir o conteúdo de todos os livros de arte já escritos, mas não consegue transmitir qual é o aroma da Capela Sistina.

Isso é, sem dúvida, uma boa notícia para os escritores de ficção que temem ser substituídos pela IA, especialmente para os escritores mais jovens que ainda estão aprimorando sua técnica. Eles podem se dedicar ao estudo e à prática, sabendo que se tornarão mais fortes conforme experimentam, arriscam novas ideias e trazem esse aprendizado de volta para a página.

A IA, como a conhecemos hoje, ainda enfrenta sérias dificuldades nesse aspecto. Basta observar a própria forma como ela escreve.