La chair est triste, hélas! et j’ai lu tous les livres.
Stéphane Mallarmé
Todos os livros do mundo estarão a salvo ou serão destruídos. Esse parece ser o impasse dos impasses que se apresenta à história do livro no mundo. A questão foi recentemente colocada em debate no mundo inteiro pela ação da Anthropic, empresa de tecnologia responsável pelo chatbot Claude.
Notável no meio tecnológico por sua capacidade de contextualizar e analisar textos extensos, o chatbot foi flagrado recentemente associado a uma prática controversa conhecida como “digitalização destrutiva”. O processo envolve a obtenção, em larga escala, de livros de diversas partes do mundo para digitalização e posterior treinamento de modelos de aprendizagem de máquina. A prática recebe o adjetivo “destrutiva” porque, durante o procedimento, os exemplares físicos são completamente desmontados e, após a digitalização, eliminados em máquinas trituradoras.
Quando revelado, primeiro por uma reportagem do Washington Post e, mais tarde, por uma sucessão de reportagens ao redor do mundo, o caso não trouxe imagens diretas — trata-se de um projeto sigiloso —, porém a descrição dos procedimentos ganhou na mídia a companhia de imagens aterradoras de cortadoras de lombadas de livros, máquinas trituradoras de papel e depósitos imensos abarrotados de volumes e volumes obtidos mundo afora, numa operação logística que a empresa batizou de “Projeto Panamá”. O caso tornou-se um escândalo mundial pela descrição dos métodos utilizados pela empresa e veio a público quando a Justiça norte-americana retirou o sigilo de parte do projeto em função de uma ação coletiva sobre direitos autorais, que obrigou a gigante tecnológica a um acordo de reparação milionário por uso indevido.
Além das imagens, contribuiu para o escândalo uma declaração das intenções do projeto, encontrada entre os documentos do processo Bartz v. Anthropic PBC, dando conta de que seu objetivo consistia em nada mais, nada menos que digitalizar todos os livros do mundo. A ambição grandiosa teria como objetivo “ensinar” às LLMs (large language models) do chatbot o conteúdo humano disponível, supostamente mais autêntico e relevante do que aquele obtido no scraping da internet e organizado a partir do pensamento autoral de alguém.
Apesar disso, a decisão judicial concorreu para o enquadramento de uso aceitável (fair use) e o caso foi resolvido como mais uma questão patrimonial. O mais importante para os objetivos da empresa, de acordo com as apurações, era de que se tratasse de conteúdo livre dos próprios recursos de inteligência artificial. Nos livros publicados mundo afora, portanto, poderiam ser encontradas informações (ou o conhecimento) que levariam ao aperfeiçoamento da inteligência artificial generativa e, mais que isso, seria evitado que ela sofresse a influência das informações de terceira mão que ela mesma produz (ou recicla).
2
Por vias provavelmente tortas, o Projeto Panamá enceta mais uma vez uma jornada frustrada que vem sendo percorrida na história humana desde a Biblioteca de Alexandria. A reunião de uma biblioteca universal que disponibilizasse a qualquer cidadão o acesso a todo o conhecimento do mundo é uma utopia universal e atemporal, dada pela consciência de que, no espaço de uma vida, é impossível ao ser humano ler ou ao menos conhecer e memorizar todos os livros do mundo. Sobre essa possibilidade, desde a Antiguidade, pensadores e cientistas projetaram conceitos grandiosos que, todavia, sempre esbarraram em dificuldades técnicas aparentemente intransponíveis, além de guerras destrutivas.
Em Alexandria, Calímaco de Cirene criou o primeiro catálogo do mundo, de que se serviram centenas de estudiosos. Na Casa da Sabedoria, em Bagdá, Al-Khwarizmi (de cujo nome provém o termo “algoritmo”) liderou o imenso trabalho de tradução das obras gregas dispersas no mundo bizantino reunidas pelo califado abássida. Mais próximo da era moderna, Gutenberg criou a tecnologia que salvou e popularizou o conhecimento de uma forma ainda hoje impactante: o livro impresso. E, a partir dele, muitos outros projetos entenderam nos recursos bibliográficos mais que um encargo de armazenamento: a disponibilidade de um repertório intelectual, pilar do capital cultural tanto de indivíduos quanto de nações.
No que o ser humano parece ter falhado, a ascensão tecnológica digital primeiro transformou todo o conhecimento em dados binários e, presentemente, uma técnica hábil em absorver e transformar esse conhecimento para os mais diversos propósitos tornou-se viável e acessível. Uma vez que “ler todos os livros do mundo” é impossível ao ser humano, a criação da inteligência artificial permitiu que essa ambição aparentemente se tornasse plausível.
Na Biblioteca do Congresso dos EUA, por exemplo, podem ser encontrados os 6.500 livros que pertenceram ao presidente e polímata Thomas Jefferson (1743–1826), quase todos eles anotados de próprio punho. Tido como um dos grandes leitores da história, todavia, o que representa seu recorde pessoal diante do tamanho descomunal da Biblioteca, estimado atualmente em quase 200 milhões de volumes?
3
Reduzir o abismo e a disparidade entre as capacidades intelectivas e biológicas de humanos e máquinas para absorver conhecimento não parece estar por trás, por exemplo, de iniciativas como o Projeto Panamá. E o que decorre do seu método de aprendizagem parece ser, por outro lado, a dissociação entre conteúdo e autoria, ou seja, a despersonalização da escrita e a supressão dos vestígios desse elo primário entre autor e obra. Todavia, é sob o amparo da universalização do acesso e da preservação da memória cultural que a empresa tem realizado sua defesa no caso, com seu método de digitalização destrutiva.
O impasse que se coloca entre a nova tecnologia e os bens culturais é uma derivação cognitiva, não exatamente uma reprodução ou tampouco uma iniciativa de conservação da memória. A conversão digital de conhecimento em dados manipuláveis pela técnica, entretanto, não elimina nem a sua origem nem a noção de propriedade intelectual. Há uma questão de crédito de fundo que ainda precisa ser resolvida. Além disso, de uma questão de autoridade e organização do conhecimento uma nova relação de forças se estabelece no mundo editorial, impactando a indústria do livro, o trabalho de conservação e sistematização das fontes, educação e a geração de novos conteúdos autorais obtidos na combinação das técnicas analógicas, digitais e generativas.
Considerando-se que a literatura universal vem sendo composta digitalmente desde o final do século anterior, é de pressupor que a Anthropic tenha antes suprido seus bancos de dados com essa literatura, mas o que parece à opinião pública é que está envolvida numa escalada cumulativa sem muito critério. É como se tivesse sido confiada ao engenho a capacidade mais elementar na organização de um acervo: a seleção. Da capacidade de criar relações na velocidade da luz, por parte dos chatbots, ninguém mais duvida. Mas e quanto à qualidade dos dados? Se ela mesma evita contaminar-se com o que produz, como seria possível conferir credibilidade às suas associações?
O que parece desconsiderado é que a explosão bibliográfica deve-se mais à profusão de obras repetitivas e de qualidade duvidosa do que a um inesgotável repertório de originalidade renovada. Ainda em 1935, Ortega y Gasset, em sua conferência “Misión del bibliotecario”, notava um excesso torrencial de livros e afirmava, sem receio, que muitos deles eram apenas “inúteis e estúpidos”, servindo de entrave ao progresso do conhecimento. Na mesma época, Robert Musil considerava o acesso ao conhecimento impossível e denominava a biblioteca onde ele mesmo atuava como um “hospício de livros”. No mesmo período da Segunda Guerra Mundial, Jorge Luis Borges publicou “A Biblioteca de Babel”, conto no qual transforma a biblioteca em metáfora de um universo caótico e incompreensível, revelando a incapacidade epistemológica humana de discernir entre ruído e conhecimento.
Do modo como tudo parece estar se encaminhando, a inteligência artificial não apenas suspenderá esse pasmo do homem moderno e pós-moderno diante dessa impossibilidade, como colocará todo esse repertório ao alcance da tela de qualquer pessoa. Isso representa uma mudança significativa nas capacidades cognitivas e também no trato individual com a cultura, ainda mais abrangente do que significou a expansão da internet, porém acompanhada da alienação da regência humana e do esvaziamento da subjetividade. Esta é a preocupação de, entre outros, Giorgio Agamben (On Artificial Intelligence and Natural Stupidity) e Byung-Chul Han (Não-coisas: reviravoltas no mundo da vida).
Seja como for, o que a Anthropic e as empresas que seguem seu exemplo estão realizando é a ultrapassagem de um conceito não resolvido pelas nações quanto ao tratamento de seu patrimônio cultural, seu uso indiscriminado e os direitos e deveres éticos que dele decorrem. Uma ultrapassagem sem aviso prévio nem debate público, apenas flagrada por intermédio do jornalismo investigativo, que tornou pública uma prática em curso há vários anos.
Não se trata de uma questão irrelevante ou menor; muito pelo contrário. A forma pela qual a inteligência artificial generativa é orientada diz muito respeito ao caráter e à forma de uso que seus proprietários pretendem oferecer ao mundo.
Ainda na primeira década do novo século, intelectuais que pensavam a cultura literária divergiam quanto às cautelas da plena digitalização, um processo no qual o Google é quem estava no centro, com o sempre apelativo projeto de uma biblioteca universal.
Havia quem previsse, naquele momento de transição, um futuro de democracia e acesso universal, como Robert Darnton (A questão dos livros: passado, presente e futuro), e quem fosse bem mais cauteloso, como o historiador Roger Chartier (Os desafios da escrita), que previa o risco da substituição dos suportes e da destruição antes mesmo de iniciativas de “digitalização destrutiva”.
Trata-se de um processo em curso, e um processo crítico que já está transformando a vida de trabalhadores, escritores, escolas e universidades em todo o mundo. Do uso mais banal ao mais sofisticado, a ideia oracular de quem dominasse o conhecimento acumulado pela humanidade e se transportasse num átimo de segundo entre um acervo de milhões de livros é uma ambição atemporal. Todavia a decomposição de livros em dados pode também dissipar definitivamente a “aura” da obra, desvinculando-a do pensamento que a originou. E a sensação de que todos os livros do mundo estejam ao alcance das mãos resultar não no fim do livro, como os historiadores vinham temendo, mas no próprio fim da leitura como vem sendo praticada até aqui.
