Como saber que este texto aqui é realmente da autoria de um ser humano? Eu sei, porque o estou justamente escrevendo. Mas uma máquina também poderia ter escrito essa frase. Ao que parece, hoje em dia essa insegurança é algo com que vamos ter que viver.

A diferença entre humano e máquina é um tema recorrente pelo menos desde a Revolução Industrial – e, numa época em que robôs se referem a si mesmos como "eu", ganha urgência máxima.

O ser humano é substituível? Em determinados campos, com certeza. Mas quão longe se quer – e pode – ir? Falando à Sociedade Australiana de Autores (ASA) sobre o tema inteligência artificial (IA), o britânico-australiano Alan Baxter manifestou sua opinião com eloquência.

"Num mundo em que ainda tem gente limpando banheiros e trabalhando em minas, não consigo acreditar que temos robôs fazendo a nossa arte e as nossas histórias. Eu pensava que robôs eram para fazer os trabalhos de merda e permitir que mais gente vá perseguir suas paixões."

"IA é um carro roubado"

Questionada "por que escreve?", a maioria das autoras e autores responde que é a sua paixão. Trata-se do processo de escrever e o prazer que envolve; de encontrar palavras que se relacionam com o mundo. A tradutora literária Claudia Hamm, por exemplo, define assim: "O próprio fazer é a finalidade. Se nós [escritores] não quiséssemos escrever, poderíamos viver uma vida bem menos precária."

Tudo bem, poderia-se dizer; quem quiser, que escreva, e a IA pode se encarregar do resto. Assunto encerrado? Nem de longe para Hamm, que acaba de lançar a coletânea Automatensprache (Linguagem maquinal), que aborda de diversos ângulos a geração artificial de textos.

Um aspecto muito discutido é o direito autoral e seus desdobramentos éticos. Os modelos de linguagem de grande escala (large language model, LLM) só funcionam porque foram alimentados – de graça – com milhões de textos já existentes, criados por humanos. Diversos autores de bestsellers já moveram processos por isso.

Hamm resume assim a questão: "A IA geradora de textos é um carro roubado. Você pode se sentar nele e viajar, pode ir a Paris e se divertir. Mas não vai deixar nunca de ser um automóvel roubado."

Hamm vai além. Para ela, a linguagem maquinal sequer é uma linguagem no sentido próprio da palavra. Como não há um "eu" que fale, falta intencionalidade. "A IA não tem intenção comunicativa. Quando utilizamos a linguagem, tentamos encontrar, enquanto seres humanos, uma expressão para um mundo interior bem específico."

E como a máquina é privada de mundo interior ou exterior, continua a tradutora, não é capaz de fazer poesia, só de justapor combinações inusuais de palavras. "Uma máquina não tem como fazer um autoenunciado, como se posicionar em relação ao mundo."

"Um navio a vapor nunca negou que é uma coisa"

A questão da "verdade" é igualmente problemática. Basta lembrar das "alucinações de inteligência artificial" – ou seja, informações "inventadas" por geradores de texto. Ou, como formula mais enfaticamente a escritora Nina George na antologia Automatensprache:

"Afirmativas não procedentes e falsificações de fatos que transformam o vômito de texto num informante menos confiável do que Putin, o [tabloide alemão] Bild e a Wikipédia juntos – como um tio sabe-tudo enrustido, balbuciando, bêbado, a sua verborreia sem graça."

O problema, segundo Hamm, é que os LLMs são construídos para tornar indistinguíveis humanos e máquina, para dar ao usuário a impressão de estar falando com um parceiro inteligente. Inteligência artificial como substituto do interlocutor humano é a grande diferença em relação a outras revoluções técnicas do passado: "Nunca um navio a vapor negou que é uma coisa", lembra a intelectual alemã.

Além disso, a questão "de quem é a realidade que a IA reflete" não tem sido examinada o suficiente. Cidadãos brancos, homens e bem situados estão super-representados nas palavras publicadas online que servem de material de treinamento para LLMs como o ChatGPT. Assim, o output final não tem como ser diverso.

IA nas editoras, universidades – e o clima

No fim das contas, porém, a intenção do setor livreiro não é demonizar a inteligência artificial, pois ela tem a sua utilidade. Faz parte do cotidiano da editora Penguin Random House, por exemplo, usar ferramentas de IA como fonte de inspiração, revela sua vice-presidente para Desenvolvimento Digital, Beate Muschler.

"Não publicamos conteúdos gerados por IA, mas não somos um espaço livre de IA. Nossa abordagem é examinar as cadeias de produção e definir campos em que se pode empregar as ferramentas de IA como parte do processo, lá onde não haja questões críticas de direito autoral."

Os funcionários da Penguin podem usar ferramentas de IA para gerar ideias, porém os produtos finais – por exemplo, capas de livros – são sempre elaborados por seres humanos. O mesmo se aplica a autoras e autores: não há problema em buscar inspiração, mas o texto resultante tem que ser do próprio punho. "Temos bem claro nos contratos: o criador, a criadora, assegura ter produzido, ele ou ela própria, a obra."

A situação nas escolas e universidades é semelhante: os discentes devem elaborar seus próprios trabalhos, se ocupar do tema, se envolver em processos, senão não há aprendizado, e o mundo emburrece – uma perspectiva nada positiva, alertam os críticos da IA.

E assim também eu avancei um tanto. Pesquisei, refleti, escrevi, me ocupei de mim mesma e do mundo. E até protegi o clima, pois LLMs e outros recursos de inteligência artificial consomem enorme volume de energia – um detalhe que igualmente merece atenção, em tempos de mudanças climáticas.

Autor: Petra Lambeck