A jornalista Daniela Lima, no G1, apurou e publicou esta semana um caso em que um juiz do Acre julgou usando jurisprudências falsas inventadas pelo ChatGPT. Mau uso tecnológico: importante para a compreensão e evolução da nossa relação com a tecnologia.
Não vou comentar a postura do juiz, que atribuiu o erro a ‘um servidor’, como se não fosse ele o dono da caneta. Vou usar o caso como exemplo para ratificar uma máxima do uso de IAs: elas precisam ser mediadas e validadas pela inteligência humana; distanciando o assunto da tecnofobia e aproximando da ética.
Em suma, o caso: o gabinete do magistrado usou o ChatGPT para pesquisar e justificar uma sentença que condenava o réu. Diante do que foi solicitada e sem encontrar respostas factíveis, a IA alucinou (o que é comum, embora cada vez menos) e inventou precedentes, atribuindo-os ao STJ. A ferramenta entregou uma resposta que pareceu satisfatória e o pessoal acatou sem racionalizar.
Barroso concedeu uma entrevista sobre o caso e afirmou que “(…) a IA bem utilizada será muito valiosa para a justiça, mas eu acho que não se vai substituir o juiz.”. Concordo, pelo menos por enquanto. E espero que o Conselho Nacional de Justiça faça desse caso um exemplo memorável de como NÃO usar esse tipo de tecnologia… é um baita precedente.
Sobre a usabilidade das IAs, Silvio Meira, André Neves, Rui Berlfort, Filipe Calegario e Vinícius Garcia escreveram o artigo ‘As três inteligências da era da IA’, endossando a visão complementar do uso dessas ferramentas, defendendo que a inteligência artificial precisa ser encarada como parte de uma tríade que considera por todos os lados a verificação humana. Você pode baixar aqui. Indico!
Outro ponto relevante em torno do tema é o risco de que, usando IAs generativas, nós poderemos acabar alimentando mais ainda um ‘status quo’. Quando falamos de atividades sociais importantes como a do caso em questão, que interferem diretamente no futuro de indivíduos, e sabendo quão distantes estamos do ideal em relação a um modelo de justiça de fato justo, preocupa a possibilidade do uso de Large Language Models [LLMs] retardar a evolução social do ponto de vista da igualitariedade de direitos. Se AIs acessam e usam um conhecimento prévio falho para acelerar processos futuros, não estaríamos ‘acelerando para trás’ do ponto de vista ético? Talvez sim, mas calma!
Ouvi Álvaro Borba, jornalista do canal Meteoro Brasil, destacar que estas tecnologias podem servir apenas para automatizar o ‘mais do mesmo’, referindo-se ao fato de que a justiça brasileira já é injusta demais e não precisa de ajuda para prejudicar certos grupos sociais já historicamente segregados. Também concordo. Porém, com ou sem IAs, o problema da desigualdade existe por razões humanas e as LLMs não são responsáveis pelo problema… Mas podem ser parte da solução.
Inteligências artificiais podem ser treinadas para trabalhar quaisquer padrões, sem julgamento de valor, sem ideologias. Órgãos públicos poderiam investir em programas autônomos de reconhecimento de padrões que reforçam a segregação e apontar dados que auxiliem no combate à desigualdade de direitos, imagino.
Se já podemos imaginar uma ‘Inteligência Artificial Capaz’ que seria capaz de vender um milhão de dólares online a partir de um investimento inicial de 100k, sozinha, produzindo publicidades e aprendendo com erros, usando marketplaces existentes, atendendo clientes e melhorando experiências, como sugeriu Mustafa Suleyman, acho que poderíamos começar a pensar modelos ousados interessantes para as demandas éticas.
Nós definimos para onde vamos direcionar os potenciais valores gerados por IA, se vão somar ou subtrair da sociedade. Enquanto esta for uma tecnologia acessível e barata, nutro esperanças de que cada vez mais será usada para o ‘bem’ em detrimento do ‘mal’, desde que consigamos regulamentar de forma eficiente seu uso, centrados na ética.
A área da tecnologia é uma que ainda me permite certo positivismo, me faz pensar que Black Mirror é apenas uma enganação (bem legal de assistir). E se fosse para o nome assustar de verdade, deveria ser White Mirror…