Gláucia Campregher e Isadora Paiva

Caros leitores do DMT (e outros tantos que venham na onda), desta vez esta coluna não vai falar de um filme especificamente, nem de muitos filmes, e nem mesmo da indústria como um todo que os produz. De fato, vamos pegar carona na greve dos roteiristas norte-americanos ocorrendo neste exato momento, cuja pauta inclui garantir “envolvimento humano” nas produções usando inteligência artificial (IA daqui em diante), para pensar o que é esta tal “inteligência” e porque há tanto entusiasmo e medo em torno dela. 

Em primeiro lugar, importa lembrarmos o básico – todos os progressos da humanidade em termos da produção de riqueza advém da divisão do trabalho. Divisão esta que não diz respeito a aspectos técnicos tão somente, mas que responde em primeiríssimo lugar a interesses econômicos e políticos de quem, por diversos e históricos motivos, e por meios mais ou menos violentos, adquiriu o direito de organizar o trabalho dos demais na escala macro (conjunto da sociedade) e na micro (cada unidade produtiva). Isso implica que, desde sempre, o fruto do trabalho alheio passado é herdado de modo desigual e inconsciente por grande parte da humanidade.

Mais fácil acreditar que por trás dos grandes feitos há deuses, magos, ou homens geniais (mulheres via de regra afastadas) que vê-los frutos do esforço coletivo. Mas justamente os que capitaneam os processos produtivos sabem que não é assim. Os capitalistas em particular sabem do que o trabalho coletivo é capaz e sabem bem a importância de não deixar que os trabalhadores o saibam. 

Pois bem, a divisão do trabalho braçal e intelectual é uma das mais antigas (e uma das grandes responsáveis pela alienação das massas), mas a divisão dentro do trabalho intelectual é própria da modernidade trazida pelo capital. E só muito depois do trabalho de pensar, observar e vigiar, ser maximamente dividido, é que se pode pensar em como ele próprio é constituído, só assim se pode pensar na sua unidade básica, os dados.

Dados são as pequenas partes constitutivas de todo raciocínio. Ou melhor, mesmo antes de serem “raciocinados”- processados e interpretados – os dados podem ser passados adiante por sistemas variados (como um nervo de um organismo animal ou o sistema operacional de uma máquina) gerando efeitos variados. Estas “unidades básicas de significado” devem ser passíveis de registro de alguma forma para serem “lidas”; os sinais elétricos fazem isso, seja nos organismos vivos, seja nos computadores. Mas que tipo de organismo e maquinismo sabe que está fazendo isso? 

Ao longo da história fomos chamando de inteligência, e/ou consciência, esse saber como e porque sabemos. Como tiramos informações da nossa experiência e como as processamos para produzir ideias mesmo sobre o que não temos experiência direta. De fato, a capacidade de pensar inclui a de podermos produzir informações novas ou desconhecidas de informações conhecidas. Mas, como dissemos, ao longo da história também o processo de produção de informação e conhecimento foi sendo dividido e a consciência do que se fazia não foi sendo partilhada igualmente. Se, por exemplo, dentro de um organismo, intestino e cérebro trabalham juntos para produzirem movimento, na sociedade a coisa não é bem assim.

Como ensina Marx, já nos primórdios do assalariamento, quando os trabalhadores são meramente postos para trabalhar uns com os outros sem maiores mudanças sobre como executam seu trabalho, os meios de trabalho lhes aparecem como algo que se opõem a eles. Podem (e devem) usá-los, e estão familiarizados a isso, mas sabem que estes meios não lhes pertencem. Na manufatura, onde aí sim o trabalho é bastante transformado e dividido até a super especialização de cada um, os meios de trabalho é que definem as funções humanas, o trabalho coletivo sendo tornado, ele mesmo, um maquinismo. Na grande indústria ocorre o golpe final e o trabalho, em vez de usar, é usado pelo que antes eram seus meios.

Nos tornamos apêndices das máquinas que se nos opõem vigorosamente, moldando nossos movimentos e nossa consciência. E se elas são capazes disso é porque foram incorporando nossas habilidades e saberes. O segredo da dominação do trabalho coletivo presente é justamente a não compreensão dos trabalhadores de que o capital nada mais é que trabalho coletivo passado, apropriado privadamente. Trabalho coletivo este que não para de ser arregimentado e organizado pelo capital sob formas cada vez mais inacessíveis aos trabalhadores.  

Para que hoje um programa de computador seja capaz, por exemplo, de criar o roteiro de um filme, inúmeros roteiristas tiveram que produzir um volume tamanho de roteiros com variações o suficiente para que tentar uma nova variação não seja propriamente a criação de algo novo, mas a recombinação de algo existente. O que significa que, nesta área como em outras tantas, o que a IA faz é imitar o feito pelos humanos. Mas para aqueles que entram de cabeça no hype em torno do tema, a IA não apenas imita, mas aprende conosco; e provas disso estariam aparecendo toda vez que um computador passa num exame qualquer enganando seus examinadores (o chamado de teste de Turing).

Mesmo que um Ross da vida (o programa de computador comprado por um grande escritório de advocacia no Canadá) seja confundido com seus colegas advogados, o que ele faz é o que milhares de pessoas antes dele fizeram, só que mais rápido – a partir de uma pergunta de saída, ele consulta milhares de menções legais, documentos de toda ordem e casos já julgados onde encontra alguma referência comum. Isso é pouco? De jeito algum! Isso é muito, em particular para o capital que poderá (e já está) demitindo os humanos que faziam o mesmo mais lentamente. Ou, se não os demite, paga-lhes muito menos…

No momento que antecedeu a greve dos roteiristas em Hollywood, publicações sindicais divulgaram estudos mostrando que o salário médio pago à categoria teria caído 23% (inflação mais 4%) na última década, e isso numa época de crescente demanda sobre eles dado o aumento de produção para os canais de streaming. Não à toa eles preveem que a IA será cada vez mais acionada à medida que mais produtos são necessários e que mais o interesse dos produtores seja reduzir seus custos. Se há algo que estes trabalhadores, como os advogados e outros tantos, temem a respeito dessa “nova tecnologia” é que ela funcione como qualquer outra no passado!

Como diria Marx no capítulo 13 de O Capital, “é questionável se todas as invenções mecânicas já feitas aliviaram a labuta diária de algum ser humano”. Se a intenção fosse esta, o uso de IA poderia de fato substituir o trabalho mais banal e aumentar a demanda pelo trabalho mais difícil e criativo. Sem aumentar o emprego sobre estes trabalhos, o uso da IA pode causar muitos males! 

Vejamos. O “aprendizado” sob mera equiparação de dados, próprio dos programas de computador, via de regra usa os valores discretos de que dispõem – os signos numéricos, os pixels de uma imagem, etc – sem que entendam o que realmente significam. Ou, como diz o filósofo Searle, sintaxe é diferente de semântica. Searle é o autor do experimento mental chamado de “o quarto chinês” que é, desde os anos 80, é um bom questionamento às IAs. Neste experimento, por mais que um programa possa emular uma linguagem respondendo a imagens de palavras com imagens que façam sentido (como se nós mesmos pudéssemos fingir falar uma língua apenas porque temos em mãos um material que nos diga o que responder quando a pergunta for tal ou tal), ele não compreende o que está sendo perguntado e por ele respondido.

Podemos pensar que um programa criado para identificar gatos e cachorros em fotos, mesmo que acerte inúmeras vezes, pode se enganar e responder que grama é cachorro apenas porque nas inúmeras imagens que tinha em seu banco de dados cachorros apareciam frequentemente em gramados (ao passo que gatos, em espaços fechados). De fato, isso aconteceu com um programa criado para diagnosticar câncer de pele (o que ele fazia com a precisão de 21 dermatologistas certificados). Após a publicação do paper relatando os sucessos do programa, seus autores vieram a público para explicar que havia “um viés” no algoritmo, pois o programa tendia a ver câncer nas imagens que apareciam junto a uma régua (dado que dermatologistas preocupados costumam usar uma régua para medir o tamanho de uma lesão)[1].

Isso alerta para que o forte da inteligência humana é construir significados. Começamos, lá atrás, quando criamos complexas mitologias vendo desenhos nas nuvens e estrelas. Quando passamos a construir suposições de conexões possíveis entre informações, começamos a elaborar teorias. O que mais preocupa hoje não é que as IAs possam um dia fazer o mesmo, o que nos preocupa é que, antes disso, elas sejam usadas sem a necessária supervisão humana. Ou seja, sem a preocupação com equívocos que possam causar, tão somente atendendo aos propósitos de sempre – o ganho privado de alguns contra o ganho de bem viver de todos. 

Nota

[1] Vide https://www.sciencedirect.com/science/article/pii/S0022202X18322930