Quase todos “os desafios do século 21”, diz Ronai, implicam alguma reflexão sobre as ciências e as tecnologias. A Filosofia tem feito isso, mas, ao menos um dos temas indicados acima, os desafios da IA, é novo para nós.
Ronai faz parte, como eu, de uma geração que pensou sobre a tecnologia usando metáforas, alegorias, metonímias, perguntas e premissas simples… mas complexas. A principal metáfora foi a do aprendiz de feiticeiro.
A principal pergunta era sobre a natureza das tecnologias, se eram neutras ou não. A principal premissa era a do perigo eminente que elas traziam. Para quem ainda não sabe, Ronai explica a metáfora do aprendiz de feiticeiro, que se refere a situações nas quais, movidos por algum desejo pouco refletido, começamos a fazer algo que, logo a seguir, não conseguimos mais controlar; surgem consequências que não previmos, que podem ser desastrosas.
A história original chama-se exatamente O Aprendiz de Feiticeiro e foi escrita por Goethe, faz mais de 200 anos. Nela, um aprendiz de feiticeiro, na ausência de seu mestre, usa uma fórmula mágica para fazer com que uma vassoura faça o trabalho de limpeza que cabia a ele.
No entanto, o aprendiz não conhece o feitiço para parar a vassoura. Ela segue trazendo água até que a casa fica inundada.
Aprendeu-se essa história sem saber que era de Goethe. Nem Disney contou pra gente. Veja-se o filme Fantasia, em que Mickey era o aprendiz, que tinha que esperar a volta do mestre para resolver o problema. A metáfora firmou-se, pois era boa para falar dos riscos inerentes a novos conhecimentos e tecnologias.
Não quero a volta do lápis. Nem do ábaco. Ou da Olivetti. Lembro de quando escrevi minha dissertação de mestrado. Com uma máquina de escrever. O xerox desbotava, lembram? Mas daí a que um robô escreva em meu lugar… a distância vai até a vassoura do aprendiz de feiticeiro.
A metáfora do aprendiz de feiticeiro pode ser vista como uma variação sobre um tema filosófico venerável, a questão dos efeitos colaterais da ação humana. As nossas ações não se resumem às intenções declaradas. E acrescenta Ronai: quando compro pão e queijo na padaria da esquina, para ter algo de comer, eu movo a corrente do mundo das vacas, das farinhas, do dinheiro, dos impostos, da minha saúde. O mundo não é movido apenas pelas nossas intenções. A metáfora do aprendiz vale não apenas para os efeitos colaterais das coisas e tecnologias que criamos (a energia nuclear) mas para ações humanas triviais, como dar (ou não) “bom dia” a alguém.
E o tema do perigo? Para Ronai, a metáfora do aprendiz de feiticeiro sugere que podemos desencadear forças que escaparão de nosso controle. É isso mesmo. Cada um de nós já experimentou isso, de alguma forma, de algum jeito. Em certo sentido somos todos aprendizes de feiticeiros.
Exercemos a arte da feitiçaria quando falamos: fazemos coisas com palavras, como no livro de John Austin: promessas, votos, juramentos, declarações, desculpas, apostas, mentiras, perdões, pedidos e dezenas de outras formas de fazer coisas com palavras que sempre tem consequências. E que nem sempre avaliamos bem.
O Direito parece ser o locus privilegiado em que habitam os aprendizes de feiticeiro. E já sentimos o perigo. Picaretagens a mil. Advogados fraudadores querendo enganar os tribunais. Juízes utilizando robôs para limpar a pauta e poder jogar golfe. Estagiários terceirizando trabalho ao ChatGPT. E gente que nunca escreveu um fonograma na vida agora escreve livros… com ChatGPT. Outro dia um italiano enganou o mundo, lançando um novo conceito (hipnocracia). E a malta acreditou. Bem-feito (leiam aqui). Torço para a briga.
Os robôs já podem fazer desenhos tão ou mais bem elaborados que os humanos. Agora surgiu um novo robô da Google. Os chineses também inventaram um novo. Os robôs já fazem dublagem. Imitam vozes. E falam.
No Direito, fazem petições melhores que os advogados, que nem se dão conta de que isso mostra o fracasso da humanidade. Se uma máquina faz coisas melhores que o homem, então teríamos que, até por vaidade, parar para pensar. Eis o paradoxo: se a IA der certo, dará errado. Porque nos ultrapassa(rá).
Lembremos do cão que atirava crianças na água para ganhar suculentos bifes, caso contado por dois cientistas de Oxford no Parlamento britânico e que contei aqui no ConJur. O cachorro também aprendeu de forma generativa.
Por enquanto o robô alucina quando alguém lhe pede pesquisas – afinal, ele precisa dar uma resposta, mesmo que alucinadamente.
Daí a pergunta: e quando o robô conseguir encontrar, por exemplo, no Direito, a resposta certa para os casos mais complexos, buscando os corretos precedentes, com inclusão das técnicas de overruling e distinguishing em dimensão superior a qualquer humano com razoável formação? O que será do Direito? E o que sobrará para os estudiosos, se o robô faz tudo melhor?
Outro dia um querido amigo disse, corretamente, que a doutrina jurídica ainda tinha muito valor; só que ele mesmo dias antes fazia uma ode ao ChatGPT. E aos precedentes (que não são precedentes).
Eis a questão. O perigo está na máxima representada pela alegoria do trapezista que, de tão competente e treinado, achou que poderia voar. E se estatelou no chão. Porque trapezista, por melhor que seja, não sabe voar.
O consolo? Talvez esteja no fato de que robô não desce escada. Por enquanto.
—
O post O <i>backlash</i> da grande feitiçaria que é a inteligência artificial apareceu primeiro em Consultor Jurídico.
