A Amazon é o maior marketplace de livros online do mundo e está repleto de cópias feitas por IA

Quando a jornalista e autora Talia Lavin procurou online pela primeira vez seu novo livro, Wild Faith: How the Christian Right Is Taking Over America, ela esperava encontrar as coisas normais que acompanham um livro na semana de seu lançamento: um link de pré-venda, alguma lista ocasional e talvez uma ou duas resenhas. Mas, em vez disso, ela encontrou pelo menos cinco cópias completas de seu trabalho na gigante varejista de compras Amazon — quase todas aparentemente criadas com a ajuda de IA generativa.

“O livro é uma história dos últimos 50 anos da direita cristã com um foco particular na dinâmica familiar e no abuso infantil em comunidades evangélicas,” Lavin conta à Rolling Stone. “Todas as [falsificações] usavam a frase wild faith, mas algumas eram biografias. Uma era um livro de autoajuda inspiracional, o que achei sombriamente engraçado. Foi surreal”. Os livros tinham títulos como Talia Lavin Prosopography: You Need to Have a Wild Faith to Succeed, e, Talia Lavin Biography: Why You Need Wild Faith to Succeed e Tania Lavin Biography: The Wild Faith to Take Over America — todos com títulos e parágrafos semelhantes ao seu trabalho, mas cheios de erros ortográficos, factuais e gramaticais.

Este não é um incidente isolado. O que Lavin descobriu acidentalmente é um dos problemas mais persistentes na venda de livros online hoje. A Amazon se tornou a principal plataforma de autopublicação com o Kindle Direct Publishing (KDP), um software que permite ao usuário fazer upload de seu manuscrito e criar e-books e brochuras que podem ser comprados. De acordo com o material de marketing da Amazon, a plataforma é uma maneira de os autores ganharem controle sobre o “conteúdo, design, preço, público e publicidade” de seu trabalho, todas ferramentas úteis para vender um livro sem uma editora tradicional. Mas, embora autores independentes tenham usado o KDP para criar impérios de publicação digital, um problema muito maior emergiu: livros falsificados gerados por IA. Autores publicados dizem que essas falsificações são frustrantes e quase impossíveis de parar. Mas, à medida que a prática prospera online, autores dizem à Rolling Stone que não é apenas a pequena perda de dinheiro que os frustra. É o fato de que a enxurrada de livros falsos está tornando a venda de livros — e a internet — pior para todos os outros.

“O problema com esses livros porcaria não é apenas que eles estão desviando receita que deveria estar nos bolsos dos escritores que escreveram livros. O problema é que eles estão enganando compradores”, diz Cory Doctorow, autor de Enshittification: Why Everything Suddenly Got Worse and What to Do About It. “Estes são livros lixo que existem para sugar dinheiro dos desatentos e se safar roubando leitores e escritores”.

O problema atual de livros falsificados por IA parece ter se originado da comunidade online de trabalho paralelo do KDP. Uma busca rápida no TikTok mostra cerca de 90 mil vídeos e tutoriais sobre como fazer renda passiva no KDP com publicação constante de IA. Esses criadores — muitos dos quais vendem suas próprias apostilas e aulas sobre como manipular o sistema KDP — pegam literatura clássica de domínio público e usam IA para adicionar resumos e questões de discussão antes de relistá-los no site com uma nova capa. Muitos também usam IA para projetar e publicar versões fáceis de livros como livros infantis, folhas para colorir ou livros de receitas. Mas livros falsificados por IA na Amazon levam esse instinto um passo adiante, não apenas usando livros de domínio público, mas fazendo versões de IA de livros novos que acabaram de ser lançados — aqueles que mais pessoas provavelmente irão procurar.

Livros falsificados por IA operam em uma área cinzenta legal para contornar questões óbvias de direitos autorais. A lei de direitos autorais dos EUA cobre “expressão criativa específica” para autores no momento em que eles escrevem suas obras literárias — uma proteção que é então registrada no Escritório de Direitos Autorais dos EUA durante a publicação tradicional. Mas a lei também permite o uso justo de material protegido por direitos autorais para coisas como comentários ou educação. Isso significa apostilas sobre os temas de uma famosa peça de literatura clássica, ou talvez um guia de estudo sobre as influências de um autor em particular. Falsificações de IA frequentemente reutilizam o título principal do livro que estão copiando para que as pessoas possam acreditar que estão comprando o livro verdadeiro, mas uma inspeção mais próxima das listagens mostra que muitos são arquivados como biografias, apostilas ou resumos — o que implica uso justo. Quando contatada para comentar pela Rolling Stone, uma porta-voz da Amazon disse que o site tem diretrizes de conteúdo que limitam quais livros são permitidos e removem livros que violam as diretrizes ou direitos autorais. “Investimos tempo e recursos significativos para garantir que nossas diretrizes sejam seguidas e, quando identificamos títulos que não cumprem essas diretrizes, tomamos medidas imediatas, como remover livros não conformes ou conteúdo infrator e suspender contas de editores para prevenir abusos repetidos”, eles escreveram.

Mas alguns autores dizem à Rolling Stone que o processo de verificação não é forte o suficiente para impedir que falsificações apareçam — e muitas vezes coloca o fardo de policiar essas infrações no autor. Quando Seth Harp, autor de The Fort Bragg Cartel: Drug Trafficking and Murder in the Special Forces, percebeu pela primeira vez que pessoas estavam vendendo falsificações de IA de seu livro na Amazon, ele imediatamente denunciou as cópias falsas de IA à empresa. Mas ele diz à Rolling Stone que o processo acabou sendo “completamente ineficaz”. Toda vez que ele denunciava uma falsificação e ela era removida, outra aparecia em seu lugar.

“Minha frustração é que essa pirataria não está sendo feita como algo marginal”, Harp diz. “Isso está vindo do setor mais bem conectado e de elite de nossa economia. É simplesmente louco para mim ver esse motor de roubo de propriedade intelectual que é totalmente indefensável acontecendo com a total cooperação da Amazon“. (A Amazon, por sua vez, insiste que está tentando enfrentar o problema à medida que ele se desenvolve: “Nosso processo e diretrizes de conteúdo continuarão evoluindo à medida que vemos mudanças na publicação impulsionada por IA para garantir que fornecemos a melhor experiência possível para clientes e autores”, a porta-voz diz à Rolling Stone).

Lavin comprou cópias físicas das falsificações de IA de seu livro e não se surpreendeu ao descobrir que cada uma era inútil à sua maneira. Algumas delas eram incrivelmente curtas e aparentemente tiradas diretamente de sua página da Wikipedia como uma espécie de biografia dela, combinando resumos públicos de seu livro e capítulos disponíveis como se fossem sobre sua vida. Outras estavam cheias de informações incorretas, como identificá-la como professora. Uma era seu livro, mas parecia que havia sido traduzido para outro idioma e depois traduzido de volta para o inglês. Para Lavin, a experiência a fez oscilar entre diversão e frustração. Mas também a deixou preocupada com os sistemas que permitiram que as falsificações fossem feitas tão facilmente.

“Sem dúvida, tive uma sensação de violação. Trabalhei por três malditos anos neste livro. Conversei com mais de cem pessoas sobre o pior abuso infantil que já haviam experimentado em suas vidas”, ela diz. “Você passou 20 minutos inserindo prompts e agora vai ganhar dinheiro, porque quando você pesquisa Wild Faith, todos esses aparecem”.

Doctorow, o autor de Enshittification, tem falsificações de IA de seu próprio livro na Amazon. É uma situação irônica — especialmente considerando que ele é mais conhecido por popularizar o descritor de como as coisas online estão ficando piores e mais difíceis para a pessoa média usar. Doctorow diz à Rolling Stone que acredita que a proliferação de falsificações de IA é um resultado direto da Amazon não investir em moderação de conteúdo, e um exemplo perfeito de enshittification em ação.

“Esse é o processo pelo qual você vê a enshittification acontecendo”, ele diz. “É uma teoria sobre o que acontece quando um negócio não precisa mais se preocupar com as consequências de ser terrível”.

Cada um dos autores que falou com a Rolling Stone diz que a Amazon tem uma responsabilidade clara de investir em mais software e moderação que impeça livros falsos de IA como esses de prejudicar leitores e autores. Da forma como está, eles sentem que falsificações de IA podem se tornar apenas um risco ocupacional compreendido para pessoas que querem compartilhar sua escrita com outras. Isso não muda o trabalho que fizeram em seus livros. Mas torna o mundo online mais difícil de navegar.

“É silenciosamente violento. Você está roubando meu trabalho, meu rosto. Você está roubando minha vida e escrevendo mentiras sobre ela”, Lavin diz. “Em um nível individual, não é como se eu fosse alguma Joana d’Arc vingadora contra uma grande humilhação. Mas, tomado em conjunto, este é o maior marketplace de livros do mundo. E veja como é facilmente distorcido dessa maneira”.

+++LEIA MAIS: Com vários acertos, ‘Springsteen: Salve-me do Desconhecido’ é um filme sobre depressão

+++LEIA MAIS: Todos os 16 shows que aconteceram no Heineken No Lineup Festival