Biblioracle: a reputação do autor estava em jogo, graças à IA

Em junho, Marc Andreessen, cofundador da empresa de investimentos em tecnologia Andreessen Horowitz, e meu colega graduado pela Universidade de Illinois Urbana-Champaign (vai Illini!), escreveram sobre como a inteligência artificial iria “salvar o mundo”.

É um grito de coração abrangente contra os céticos da tecnologia que estão preocupados com as possíveis desvantagens da IA, incluindo cenários apocalípticos como o retratado em “O Exterminador do Futuro”, onde uma IA senciente percebe que os humanos são a principal ameaça à sua existência continuada e estabelece para exterminá-los do planeta.

Em contraste, Andreessen argumenta que “a IA pode tornar melhor tudo o que nos interessa”.

Agora, porém, quando se trata de livros, algo próximo do oposto tão verdadeiro quanto a IA está sendo usada para gerar montes de conteúdo disfarçados de trabalho de qualidade, mas na realidade é uma pilha gigante de lixo.

A escritora e especialista em publicação independente Jane Friedman experimentou isso recentemente quando um dia acessou sua página Goodreads e encontrou alguns livros novos com ela mesma listada como autora, incluindo “Promote to Prosper: Strategies to Skyrocket Your eBook Sales on Amazon”.

Embora este seja o tipo de informação que Friedman pode compartilhar com seu público, ela não escreveu esses livros, mas aqui estava alguém (ou algo) usando sua reputação, duramente conquistada ao longo de décadas no mercado editorial, para tentar ganhar alguns dólares em Trapaça produzida por IA.

“O negócio de ser escritor”, de Jane Friedman. (Imprensa da Universidade de Chicago)

Devo dizer que fiquei ainda mais ofendido porque Friedman foi o editor do meu segundo livro, muitas luas atrás. Desde que deixou o mercado editorial e se tornou independente, ela tem sido um exemplo de conversa clara e direta que beneficia os escritores. Seu livro publicado pela University of Chicago Press, “The Business of Being a Writer”, é uma leitura obrigatória para quem deseja entender como trilhar um caminho como escritor profissional.

O trabalho de Friedman depende literalmente de sua boa reputação, então a existência desse lixo sob seu nome tinha o potencial real de causar danos. Como Friedman documenta em seu próprio site, a Amazon (dona do Goodreads) primeiro respondeu encolhendo os ombros, dizendo que, a menos que Friedman pudesse provar que eles infringiram seus direitos autorais, porque seu nome não é suficientemente exclusivo, não há muito que eles possam fazer.

Depois de usar sua plataforma para criar confusão, a Amazon removeu os livros de seu perfil no Goodreads, mas Friedman observa que sem essa plataforma, é perfeitamente possível que os livros tivessem permanecido.

A imagem otimista de Andreessen sobre o potencial da inteligência artificial para desencadear um florescimento sem precedentes da engenhosidade humana não leva em conta que a primeira adoção de novas tecnologias parece sempre ser feita por pessoas que tentam ganhar dinheiro rápido.

Em teoria, não deveria ser difícil para a Amazon exigir prova de autoria antes de enviar livros para o Goodreads ou para a loja Amazon, mas, na verdade, os incentivos da Amazon para bloquear esses produtos são limitados. Afinal, uma venda é uma venda.

Você também deve ter visto uma série de guias gerados por IA promovidos por meio de avaliações falsas aparecendo on-line nos últimos meses. Não compre estes, não importa a pechincha. Fique com Rick Steves ou algo parecido.

Os leitores terão que adotar uma abordagem de advertência quando se trata de garantir que alguns livros sejam o que realmente pretendem ser. Na pior das hipóteses, resmas de desinformação poderiam inundar o mercado, parecendo fontes legítimas, mas na verdade sendo apenas lixo regurgitado pela IA.

É claro que outra solução útil é evitar a compra de livros em mercados que possam não ter sido avaliados por fontes confiáveis.

Sua livraria local operada por profissionais de livreiros é como um escudo contra a torrente de porcaria, sem necessidade de advertência.

John Warner é o autor de “Por que eles não conseguem escrever: matando o ensaio de cinco parágrafos e outras necessidades”.

Twitter @biblioracle

Recomendações de livros do Biblioracle

John Warner diz o que ler com base nos últimos cinco livros que você leu.