Foto: Pexels
É preciso perceber que existem formas de inteligência artificial que são capazes também de influenciar as decisões dos indivíduos através de opções predeterminadas, associadas a estímulos e dissuasões, ou então através de sistemas de regulação das opções pessoais baseados na organização das informações.
Estas formas de manipulação ou controle social requerem atenção e vigilância cuidadosas, que implicam também em responsabilidade legal por parte dos produtores, de quem os contrata e das autoridades governamentais. Isso porque os construtores dos sistemas da inteligência artificial são humanos e, por isso, há um risco de que os critérios subjacentes a certas escolhas se tornem menos claros, que a responsabilidade da decisão seja ocultada. E isto, em certo sentido, é favorecido pelo sistema tecnocrático, que alia a economia à tecnologia e privilegia o critério da eficiência, tendendo ignorar tudo o que não esteja ligado aos interesses imediatos.
O relatório Inteligência Artificial e Perspectivas Pastorais, apresentado à Conferência Nacional dos Bispos do Brasil (CNBB) por engenheiros e pesquisadores (8/4/2024) esclarece que não é coincidência que as empresas mais valiosas do mundo (as bigtechs) sejam as detentoras dos maiores e exclusivos bancos de dados, pois estes são o ativo mais valioso da empresa. E isso levanta preocupações éticas “sobre a obtenção desses dados e a necessidade de garantir a segurança, a transparência na obtenção, proteção das informações pessoais e autorização explícita para o uso dos dados”.
O Magistério da Igreja, então, é claro em afirmar que “o respeito fundamental pela dignidade humana requer a rejeição de que a unicidade da pessoa seja identificada com um conjunto de dados. Portanto, é importante não permitir que os algoritmos determinem nossas escolhas, ignorem os valores essenciais da compaixão, da misericórdia e do perdão”.
O diálogo dos saberes
O Magistério da Igreja, na pessoa do Papa Francisco tem ensinado que a doutrina cristã não é um sistema fechado, concluído, e que a teologia deve ser capaz de acolher aquilo que existe de avançado, de atualizado na ciência e colocar tudo isso em diálogo com a fé e, com isso, ir lendo a fé, ir discernindo os conteúdos novos da ciência. Captar as inovações, pensar, compreender e, com essas ferramentas, ser capaz de reinterpretar a fé. O mundo digital nos desafia, a inteligência artificial nos desafia, é preciso entender disso tudo e discernir a partir da fé e, com isso, reinterpretar a fé, na fidelidade àquilo que é essencial na fé e na fidelidade àquilo que o real coloca diante de nós.
Foto: Pexels
Com a finalidade de dialogar com as ciências, Francisco confiou à “Pontifícia Academia para a vida” para “intensificar o estudo e o confronto sobre os efeitos da evolução da sociedade em sentido tecnológico para estruturar uma síntese antropológica que estivesse à altura deste desafio histórico. Francisco enfatizava que era preciso compreender as transformações atuais para identificar como as orientar ao serviço da pessoa humana.
Com iniciativas corajosas para um apelo à primazia do ser humano, aconteceu em Roma o “Apelo por uma ética da inteligência artificial” - 2020 (Rome call for AL ethics). Um encontro com os “grandes” do poder tecnológico e cientistas que elaboraram um documento com três perspectivas humanísticas: o princípio ético, o princípio educacional e o princípio jurídico. O objetivo foi justamente apoiar uma abordagem ética para a inteligência artificial, nomeada de algorética (introduzida por Paolo Benanti (frei especialista em algoritmos).
Já em 2021, Francisco instituiu uma organização não lucrativa (RenAIssance Foundation) com o objetivo de promover reflexões antropológicas e éticas das novas tecnologias sobre a vida humana. Em 2023 o mundo islâmico e judaico também assinaram um documento Al Ethics: An Abrahamic commitment to the Rome Call, com o objetivo de proteger a primazia do ser humano, educar os jovens nas tecnologias complexas e incentivar a dimensão jurídica tentando imaginar uma governança internacional. Com este mesmos objetivos, outras empresas estão se juntando ao Rome Call para que os construtores dos sistemas levem em conta a primazia do ser humano.
Importante perceber que, em todas as mensagens de Francisco e seus encontros com os cientistas, o Papa oferece os critérios que devem estar presentes na reflexão e produção dos sistemas da inteligência artificial.
A posição do Magistério é, então, dialogar. Oferecer critérios. Defender a primazia humana, em sua dignidade.
Para ler a continuidade deste assunto, clique aqui.
Joana Terezinha Puntel é uma irmã paulina. Jornalista e doutora em Ciências da Comunicação pela Simon Fraser University (Vancouver-Canadá) e pela Universidade de S. Paulo (USP). Professora e pesquisadora nas áreas de Igreja e Comunicação, Cultura, dimensão pastoral. Pertence à equipe do SEPAC. É membro da INTERCOM e do GRECOM (Grupo de pesquisa da CNBB). Publicou vários livros, entre os quais Igreja e Sociedade-método de trabalho na comunicação; organizou e contribuiu com artigo em O Humano na dinâmica da Comunicação.
