Participação de Profissionais de Saúde em Algoritmos de IA

Fonte: Linkedin                                                                                                                                            

É reconhecida a ameaça dos algoritmos de Inteligência Artificial (IA), que estão tirando o controle e a construção da realidade de nossas mãos em benefício de poucas corporações – Big Techs. Portanto, o desenvolvimento de tecnologias de IA na área de medicina e saúde pública só deveria ser permitida com a participação plena de profissionais de saúde em laboratórios de IA em todo o mundo.

Não devemos esquecer o que eminentes pesquisadores na área da tecnologia estão dizendo sobre o poder e o controle da IA:

O cientista da computação Geoffrey Hilton disse recentemente: "A IA tornará algumas pessoas muito mais ricas e a maioria das pessoas muito mais pobres".

Por outro lado, Alan Turing mencionou as consequências das máquinas de IA:

"Vamos supor... que essas máquinas sejam uma possibilidade real e analisar as consequências de construí-las. Haveria muito o que fazer ao tentar, digamos, manter a inteligência de alguém no padrão estabelecido pela máquina, pois parece provável que, uma vez iniciado o método de pensamento da máquina, não demoraria muito para superar nossos fracos poderes... Em algum momento, portanto, devemos esperar que as máquinas assumam o controle".

Muitos de nós conhecemos o potencial das tecnologias de IA para melhorar os cuidados de saúde e a saúde pública, mas devemos considerar que o desenvolvimento de algoritmos de IA para a saúde deve evitar as falhas da tecnologia da informação em saúde dos últimos anos. Num modelo de Desenho Participativo deve-se envolver os profissionais de saúde, de modo que seja possível desenvolver e projetar tecnologias de IA sustentáveis, responsáveis e éticas, evitando-se a sujeição humana das Big Techs.

Contudo, os profissionais de saúde devem estar cientes de que apenas conhecer as falhas da tecnologia da informação em saúde no passado não é suficiente. Já foi dito que não compreendemos o presente e precisamos recuar bastante no tempo para conhecer a gama de rupturas no cenário social.

Já foi mencionado, também, que devido à obscuridade do chamado "complexo de dinâmicas" na história do Ocidente, "não compreendemos o presente". No entanto, esse complexo explica rupturas em diversos campos, como religião, economia e, agora, a emergente inteligência artificial, com todas as rupturas derivando de fontes originais.

Entre as principais perturbações podemos citar a ameaça à democracia, os riscos existenciais da destruição ambiental e das mudanças climáticas e as intrusões da inteligência artificial “tirando a construção da realidade das nossas mãos”.

A literatura demonstra que, ao longo dos anos, os arranjos institucionais e seu poder absolutista, como a Divindade Cristã, o Estado e o Mercado Neoliberal fracassaram, tendo como sucessora a Tecnologia. Portanto, afirma-se que a Tecnologia atingiu o "status de absolutismo fundacional na forma de inteligência artificial generativa".

Nesse sentido, os profissionais de saúde devem ter uma visão ampliada para examinar as vísceras da história, a fim de compreender como enfrentar o presente, tendo em mente que a promoção de interesses dominantes, tanto nos arranjos institucionais mencionados quanto na Tecnologia, visa manter a sujeição humana.

O exemplo do cientista da computação Geoffrey Hilton, mencionado acima, é muito claro sobre isso. Nesse caso, os profissionais de saúde precisam compreender as atuais rupturas e os riscos existenciais enfrentados pelas comunidades ocidentais no contexto da sujeição.

Por fim, as falhas do absolutismo da Divindade Cristã, do Mercado e do Estado resultaram na criação do absolutismo da Tecnologia, que já demonstra falhas em não responder aos riscos existenciais, levando o ser humano a uma sujeição nunca vista antes, principalmente com o advento da Inteligência Artificial.

Como resultado disso, os profissionais de saúde devem adotar uma abordagem participativa no desenvolvimento e design de sistemas de informação e algoritmos de inteligência artificial para a medicina e a saúde pública. Além disso, devem ter grande influência nas atividades regulatórias que visem aplicações responsáveis, sustentáveis, eficientes e eficazes, com uma base ética reconhecida.

Não queremos que uma lei seja vista como uma arma, como foi mencionado nos Estados Unidos sobre o Take it Down Act, assinado pelo Presidente Trump e sua esposa. Nesta "era de regulamentação tecnológica gangster", muita reflexão deve ser feita sobre inteligência artificial não apenas por legisladores, mas também por acadêmicos, profissionais de diferentes áreas científicas e pela sociedade.

Em relação à Inteligência Artificial, em muitos casos será necessária a interferência dos Tribunais de Justiça. Estamos falando de riscos existenciais e da nossa realidade existencial, devendo os profissionais de saúde defenderem regulamentações éticas da Inteligência Artificial para mitigar o poder absolutista da Tecnologia e a condição de sujeição humana.