Prove que você é humano

Hoje em dia, não basta publicar um livro: será preciso autenticar que foi você quem o escreveu.

Quando escritores dão o último clique em seus contos ou romances, há um tipo único de prazer oriundo do dever cumprido: o orgulho de terem criado um universo próprio, e se sentirem como os deuses de um mundo encapsulado em páginas.

Posso imaginar o deleite do escritor americano contemporâneo Jerry Falade ao dar por concluído o manuscrito de seu romance policial Call Me, I’ll Hide the Body, enquanto mentalmente idealizava seu futuro leitor obcecado pelos mistérios evocados na narrativa, folheando ardentemente a história no afã de tentar solucionar os crimes narrados no livro.

Tudo indicava que esses leitores idealizados por Falade não seriam poucos. Seu romance chegou a ser cortejado por 14 editoras, e acordos generosos foram propostos. Até que um selo da editora Macmillan chamado Minotaur Books ofereceu US$ 2 milhões de dólares pelos direitos de publicar Call Me, I’ll Hide the Body. Um valor nada desprezível.

Infelizmente, as circunstâncias que se seguiriam lembrariam Falade de que, se a arte imita a vida, o contrário também pode se dar (e de maneiras nem sempre lisonjeiras).

A própria Minotaur Books decidiu repentinamente cancelar o contrato de Jerry Falade, e não demoraram a divulgar publicamente a razão dessa medida tão drástica. De acordo com seus agentes, apesar do manuscrito do romance parecer “extraordinário”, eles não podiam mais autenticar a evolução da escrita, garantindo que não houve uso de Inteligência Artificial no processo.

Agora, não eram os crimes narrados por Falade que instigavam as pessoas: seu próprio romance é que acabou fadado ao escrutínio de uma investigação.

Falade negou a acusação, e devo dizer que sua linha argumentativa nos deixa com a pulga atrás da orelha. Ele até confessa que usou tão somente uma ferramenta de código aberto para pesquisas pontuais de detalhes forenses importantes no enredo. Mas destaca que, recentemente nos EUA, três autores (incluindo ele) tiveram seus lançamentos cancelados por suspeitas de uso de IA. É apenas coincidência que os três sejam negros?

A questão racial evocada por Falade não apenas é preocupante, como também traz certo peso à sua contrarresposta. Seja como for, a polêmica em torno do romance cancelado nos coloca diante de um dado tão triste quanto desafiador: os agentes do escritor ou a Minotaur Books preventivamente cancelaram o lançamento baseados em suspeitas.

Pois é. Eles não conseguiram provar o uso de IA: demonstrou-se apenas que não foi possível demonstrar que Falade não usou.

E o que deixou esses editores e representantes tão preocupados? O fato de que Call Me, I’ll Hide the Body era um livro excepcional. A obra é excelente, boa o bastante para que eles questionassem se foi mesmo Falade quem a escreveu.

No passado, quanto melhor era a literatura, mais difícil crer que foi produzida por uma máquina. Já em nossa época de IAs generativas, quanto mais impressionante e perfeita é uma peça literária, mais desconfiamos de que um ser humano a escreveu.

Acontecimentos dessa natureza acabam por fazer emergir muitas questões pertinentes. Especialmente envolvendo a tal literariedade que teóricos como Terry Eagleton tentaram definir. Por exemplo, qual seria o elemento preponderante que convenceria a comunidade de leitores sobre o quão literário um texto é? A voz? A originalidade? A irregularidade? A experiência vivida? Já era difícil antes refletir sobre as características supostamente únicas de uma obra estética: para piorar, precisaremos a partir de agora definir sua humanidade.

Será então que, daqui em diante, todos os autores precisarão provar que escreveram seus próprios livros? Assim como precisamos compilar (ou escanear) uma pá de documentos para abrir conta no banco, os escritores terão que submeter seus arquivos e computadores a uma perícia? E caberá às editoras realizar uma triagem por meio de rascunhos, arquivos de Word, históricos do Google Docs, e-mails, sites de pesquisa, metadados?

Escritores que precisam apresentar os vestígios de sua humanidade à cada livro submetido aos editores: não parece uma situação kafkaniana?

Isso me lembra do conceito de chain of custody que embasa investigações criminais sérias: a necessidade de demonstrar por onde passou uma evidência, quem a manipulou e se ela permaneceu íntegra. No caso Falade, começa a surgir algo parecido para o manuscrito. A “cadeia de custódia” da literatura incluiria essas questões: “Quem escreveu? Quando escreveu? Com que ferramentas? Quem editou? Que versões existiram? Onde estão os rascunhos?”.

Seria incrível imaginar o que um teórico como Roland Barthes diria sobre o mundo pós-IA. Em 1967, o pensador francês escreveu o famoso ensaio A Morte do Autor, no qual destrói a ideia de um autor divinizado que detém a verdade única sobre a obra, substituindo-o pelo scriptor (escrevente), ou seja, um autor que surge junto com as palavras, sem precedê-las. A ironia é que o mesmo autor que foi morto por Barthes agora precisa levantar da tumba e apresentar documentos para mostrar que estava vivo no ato da escrita.

Enfim, o fato é que, após o Século XIX, os circuitos literários passaram a ser atormentados por questões que envolviam autoria, originalidade ou estilo. Por décadas, aprendemos com a teoria literária de que deveríamos desconfiar da figura do autor – ainda que nem tanto num sentido literal, como agora.

Nosso dilema atual é muito menos poético ou interessante: apurar se podemos ou não acreditar nos autores. Não é um problema que envolva teorizações que até poderiam ser intelectualmente estimulantes. No fim das contas, é só mais uma chatice burocrática para todos os envolvidos.

E você me pergunta o que devemos fazer diante disso. Fecharemos um diagnóstico geral específico? Um juízo moral sobre a bondade ou maldade da IA? Bem, não sei se tenho condições de oferecer respostas ricas ou definitivas. Me parece mais produtivo fazer ainda mais perguntas, abrir “abas” no navegador, e manter as possíveis respostas em suspenso.

E a primeira pergunta que me ocorre seria questionar a relação entre as tecnologias atuais e a autoria. Jerry Falade admitiu ter usado ferramentas de código aberto para pesquisas pontuais, mas nega tê-las utilizado de forma generativa. Ou seja, aparentemente ele não usou a IA para escrever por ele. E aqui vale lembrar que, no âmbito da sociedade, a rejeição da IA está quase sempre relacionada a uma noção de que robôs irão criar no lugar dos humanos.

Isso ficou muito claro em novembro de 2023, quando aconteceu o lançamento da “última música dos Beatles”, Now and Then. John Lennon a compôs em 1977, gravou em uma pequena fita, e na década de 1990 os integrantes sobreviventes do grupo inglês passaram meses acrescentando instrumentos e vocais para tentar finalizar a canção. Decepcionados com o resultado, acabaram engavetando o projeto. Até que as possibilidades da IA contemporânea motivaram Paul McCartney e Ringo Starr a enfim lapidar e arrematar o que outrora ficou inacabado.

Muitas pessoas reclamaram que as vozes de John Lennon ou George Harrison estariam sendo emuladas digitalmente, que eram “robôs” a cantar, mas isso não procede. O que realmente foi utilizado foi uma tecnologia de restauração de áudio por machine learning, desenvolvida pelo diretor de cinema Peter Jackson em 2021. Eles pegaram uma fita precariamente gravada por John Lennon em 1977, separaram os sons da voz e do piano, e usaram IA para preencher as frequências sonoras que o gravador antigo não era capaz de registrar.

O que o caso dos Beatles nos ensina é que uma ferramenta de IA não produz apenas criação generativa (aka: plágio camuflado). No caso da literatura, ela pode ser utilizada para pesquisa, recursos editoriais (revisão, tradução), assistente de estilo, dentre outras possibilidades. Vários desses recursos já existem há anos (como o Google Tradutor ou o revisor gramatical do Word), e nunca foram questionados antes. Agora, porém, tudo é visto como um risco em potencial de escrita generativa – e, consequentemente, de um uso da IA como coautora.

Sei que é perigoso relativizar a IA em uma época de tanta aversão pública. Mas não poderemos realizar um debate sério se não ponderarmos sobre a questão sem cair em maniqueísmos e juízos rápidos, dada a complexidade do tema.

Diversas pesquisas mostram que ocorrem falsos positivos e alteração da capacidade de detecção quando um texto humano é posteriormente polido por IA. O dilema epistemológico desses casos pode ser postulado de um modo dolorosamente simples: ninguém sabe ao certo como provar se um texto foi escrito por IA.

As consequências da situação já podem ser notadas nas redes sociais, por exemplo. As pessoas têm evitado usar travessões, comparações do tipo “talvez não seja X, mas sim Y”, e outras marcas que parecem cacoetes do ChatGPT. Sem querer querendo, estamos desenvolvendo uma estética negativa da autenticidade – negativa porque, ao não saber necessariamente identificar o que é ou não humano, passamos a tentar identificar aquilo que parece não ser IA.

Acho engraçado que a preocupação com estilo era quase exclusiva de autores literários, mas agora se alastrou por vários usuários de internet que não necessariamente nutriram ambições estéticas sobre sua escrita ao longo da vida. Nas redes sociais, todos parecem obcecados pela busca da “voz”, por autenticidade, frases menos simétricas, impressão de personalidade na escrita, inserção de pequenas idiossincrasias, enquanto relativizam imperfeições de toda ordem.

É como se estivéssemos antecipando uma paranoia de verificação de traços humanos, baseadas em pequenos erros, frases estranhas, escolhas inesperadas, imagens imperfeitas. No futuro, a literatura humana terá de parecer deliberadamente menos perfeita para provar que é humana? E o que acontecerá quando as IAs conseguirem emular essas ranhuras e contradições?

Talvez haja, porém, uma ironia ainda maior nessa história. Nenhum escritor jamais criou sozinho tudo aquilo que existe em seu livro. Inúmeros romances nasceram, sei lá, de histórias contadas por avós, de conversas ouvidas por acaso num bar, de pessoas vistas na rua, de notícias de jornal, de lembranças da infância, de livros lidos vinte anos antes. Até a língua que o escritor usa como ferramenta já existia antes dele.

A literatura sempre foi feita de coisas que o autor recebeu do mundo e reorganizou de uma maneira particular. O acaso, a memória, a cultura e as outras pessoas sempre foram o que podemos considerar como coautores invisíveis.

A diferença é que, agora, estamos diante de tecnologias que evidenciam algumas perguntas outrora carregadas em silêncio pela literatura. Onde exatamente começa uma obra? Se experiências alheias podem desencadear histórias, ou se frases ouvidas casualmente podem se converter em diálogos, ou se sonhos podem se transformar em cenas… ainda podemos falar em criação a partir do nada? E se o escritor nunca foi aquele que criou a matéria da obra do zero, mas tão somente aquele que assumiu a responsabilidade por dar forma a essa obra?

Enfim, não sei dizer se a inteligência artificial está realmente ameaçando a ideia de autoria, mas tenho certeza de que ela está nos obrigando a examinar um problema ainda maior e mais antigo.

No caso de Call Me, I’ll Hide the Body, estamos todos tentando descobrir se Jerry Falade usou ou não uma máquina para escrever seu romance. Mas o que não estamos fazendo é pensar sobre os motivos que nos deixaram tão obcecados com a legitimidade e a originalidade de uma obra literária.

Nesse admirável mundo novo onde os escritores precisarão apresentar rascunhos, históricos de edição e arquivos de computador para provar que são autores de seus próprios livros, com sorte descobriremos uma desconcertante ironia:

Passamos séculos imaginando o escritor como um criador soberano; quando ele talvez sempre teria sido, em alguma medida, um homem ou uma mulher contaminado(a) pelo mundo, organizando em silêncio aquilo que o acaso lhe entregou.

Rafael Senra Coelho é multiartista, escritor e professor. Escreve semanalmente na newsletter Além da Letra.

www.rafaelsenra.com