Justiça em Inteligência Artificial e Injustiça Estruturada
Há poucos dias o Brasil deu um exemplo ao mundo do
quanto a Justiça e o sistema judicial são fundamentais para preservar o Estado
de Direito, podendo ser usados para examinar os desafios éticos críticos dos vieses
algorítmicos em Inteligência Artificial, com foco no conjunto de dados
tendenciosos e nos designs algorítmicos que perpetuam a injustiça estruturada
ou desigualdades estruturais.
Ademais, o sistema judicial é de fundamental
importância para administrar a justiça e salvaguardar os direitos individuais
em benefício da justiça social e equidade ou justiça de dados. Já foi dito que
a ética em IA não pode ser delegada às Big Techs, sempre voltadas para a
injustiça estruturada. Neste caso, não podemos continuar reforçando o foco da
IA na Justiça, em detrimento da Justiça em IA.
Sabe-se, contudo, que os procedimentos judiciais
existentes são morosos e lentos, não conseguindo satisfazer os benefícios da
justiça. Um enfoque de Desenho Participativo no desenvolvimento de algoritmos
de inteligência artificial, envolvendo profissionais da área jurídica em todos
os laboratórios de Inteligência Artificial pelo mundo afora deve ser adotado.
Modelos top-downs das Big Techs devem ser rejeitados.
É preciso que os juristas ou profissionais da área
judicial reconhecem de início, que a Tecnologia em geral e a Inteligência
Artificial em particular herdaram o poder absolutista do passado e são impostas
numa visão de sujeição humana.
Não devemos esquecer o que eminentes pesquisadores na
área da tecnologia estão dizendo sobre o poder e o controle da IA:
O cientista da computação Geoffrey Hilton disse
recentemente: "A IA tornará algumas pessoas muito mais ricas e a maioria
das pessoas muito mais pobres".
Por outro lado, Alan Turing mencionou as consequências
das máquinas de IA:
"Vamos supor... que essas máquinas sejam uma
possibilidade real e analisar as consequências de construí-las. Haveria muito o
que fazer ao tentar, digamos, manter a inteligência de alguém no padrão
estabelecido pela máquina, pois parece provável que, uma vez iniciado o método
de pensamento da máquina, não demoraria muito para superar nossos fracos
poderes... Em algum momento, portanto, devemos esperar que as máquinas assumam
o controle".
Já foi dito que não compreendemos o presente e
precisamos recuar bastante no tempo para conhecer a gama de rupturas no cenário
social. Entre as principais perturbações podemos citar a ameaça à democracia,
os riscos existenciais da destruição ambiental e das mudanças climáticas e as
intrusões da inteligência artificial “tirando a construção da realidade das
nossas mãos”.
A literatura nos mostra que, ao longo dos anos, os
arranjos institucionais e seus poderes absolutistas, como a Divindade Cristã, o
Estado e o Mercado Neoliberal fracassaram, tendo como sucessora a Tecnologia.
Portanto, é afirmado que a Tecnologia atingiu o "status de absolutismo
fundacional na forma de inteligência artificial generativa".
Nesse sentido, os profissionais da área jurídica devem
ter uma visão ampla para examinar as vísceras da história, a fim de compreender
como enfrentar o presente, tendo em mente que a promoção de interesses
dominantes, tanto nos arranjos institucionais mencionados quanto na Tecnologia,
visa manter a sujeição humana.
O exemplo do cientista da computação Geoffrey Hilton,
mencionado anteriormente, é muito claro sobre isso. Nesse caso, os
profissionais do sistema judicial precisam compreender as atuais rupturas e os
riscos existenciais enfrentados pelas comunidades ocidentais no contexto da
sujeição.
Por fim, os fracassos do absolutismo da Divindade
Cristã, do Mercado e do Estado resultaram na criação do absolutismo da
Tecnologia, que já demonstra falhas em não responder aos riscos existenciais,
levando o ser humano a uma sujeição nunca vista antes, principalmente com o
advento da Inteligência Artificial.
Como resultado, uma abordagem participativa no
desenvolvimento e design de sistemas de informação e algoritmos de inteligência
artificial deve ser adotada, além da influência nas atividades regulatórias
visando aplicações responsáveis, sustentáveis, eficientes e eficazes, com uma
base ética reconhecida.
Não queremos que uma lei seja vista como uma arma,
como foi mencionado nos Estados Unidos sobre o Take it Down Act, assinado pelo
Presidente Trump e sua esposa. Nesta "era de regulamentação da tecnologia
gangster", muita reflexão deve ser feita sobre inteligência artificial não
apenas por legisladores, mas também por acadêmicos, profissionais de diferentes
áreas científicas e pela sociedade.
Em relação à Inteligência Artificial, em muitos casos
será necessária a interferência dos Tribunais de Justiça. Estamos falando de
riscos existenciais e da nossa realidade existencial, devendo a Justiça exigir
regulamentações éticas da Inteligência Artificial para mitigar o poder
absolutista da Tecnologia e a condição de sujeição humana.
Justiça e ética em IA é uma necessidade urgente, mas
do que IA na Justiça.
Comentários