Do caixa eletrônico às redes sociais, tudo hoje é determinado por algoritmos. Isso para não mencionar assistentes automatizados, medicina diagnóstica, mísseis teleguiados e tudo que exige atividades repetitivas. Os algoritmos estão intimamente ligados à inteligência artificial, tanto que muitas vezes se confundem. Associadas, essas tecnologias acabaram conquistando um poder enorme, definido pelo termo “algocracia”, que compreende tanto o poder do algoritmo em si como o exercício do poder por meio do algoritmo. Fato é que eles estão influenciando cada vez mais a sociedade, a economia, a política e tudo o que envolve a sociedade humana. Diante disso, é urgente pensar e estabelecer princípios éticos, surgindo assim um neologismo: “algorética”. De que se trata? Quais seus princípios fundamentais? O que a Igreja tem a dizer ou contribuir nesse debate? Eis aqui uma sucinta introdução ao tema.

 

Introdução

Em julho passado, para celebrar os setenta anos de sua presença no Brasil, a Volkswagen lançou uma campanha publicitária na qual apresentava a falecida Elis Regina e sua filha, Maria Rita, em um dueto, cantando Como nossos pais, de Belchior. O filme, de dois minutos, apela às nossas memórias afetivas ao relembrar os carros da marca que fizeram história nas ruas brasileiras e ao promover a chegada de dois futuros modelos de Kombi elétrica, o ID.4 e o ID.Buzz. A produção gerou muitos debates por usar recursos de inteligência artificial (IA). Até que ponto é ético usar a imagem de uma pessoa falecida, num contexto diferente, com fins comerciais/publicitários (ou não)?

O Conselho Nacional de Autorregulamentação Publicitária (Conar) abriu representação ética contra a campanha, motivado, segundo a organização, por queixas do público. Em nota, o Conar diz que os consumidores “questionam se é ético ou não o uso de ferramenta tecnológica e IA para trazer pessoa falecida de volta à vida”. Além disso, aponta questões sobre “o respeito à personalidade e existência da artista, e a veracidade”. A Volkswagen, por sua vez, defende a campanha, afirmando que a ação teve, além de alto índice de aprovação, a anuência da família da artista.

Recordemos que Elis Regina faleceu em 1982, quando sua filha, Maria Rita, hoje também cantora, era ainda pequena. Segundo a própria Maria Rita, que exaltou a campanha em suas redes sociais, a produção possibilitou a realização de um sonho: cantar ao lado da mãe. Os comentários e posições foram muito variados, de amor e ódio, com diversas manifestações nas redes sociais, sites, meios de comunicação etc., desde quem achou a peça linda e fantástica até os que afirmaram ser horrível e degradadora da dignidade humana.

A tecnologia utilizada (chamada deepfake) é já bastante comum no mundo cinematográfico, mas não na publicidade, por isso as polêmicas. Gera uma confusão entre ficção e realidade para alguns, principalmente crianças e adolescentes, e aqui estamos chegando ao ponto central do qual este artigo procura tratar, a questão ética da tecnologia, especialmente da IA. Mais especificamente, a questão da algorética, ou seja, da ética ligada aos algoritmos que determinam a comunicação digital e as diversas ferramentas de IA, hoje em progressiva ascensão. Até que ponto é lícito utilizar uma tecnologia para fazer renascer uma pessoa? Até que ponto é ético atribuir a uma pessoa palavras e ações que ela não disse ou fez? Pelo fato de a tecnologia nos dar a possibilidade de “construir” tais situações, significa que “podem” ou “devem” ser feitas? E se a mesma tecnologia ou “lógica” chegar a outros âmbitos, mais especificamente à política e à religião, o que podemos esperar? Já vimos fotos do papa andando de skate na praça de São Pedro, mas e se surgir um vídeo de qualquer papa, por exemplo, defendendo o aborto, a guerra e assim por diante? Como identificar que é deepfake? Qual é o limite do uso da tecnologia para produzir “realidades”?

1. Mudança de época

A campanha publicitária da Volkswagen é apenas um pequeno exemplo das pos­sibilidades trazidas pelo desenvolvimento da IA. Todo dia enfrentamos uma enxurrada de notícias, imagens, vídeos e textos frutos da IA, uma tecnologia que não é nova, mas está experimentando verdadeira transformação, revolucionando todas as dimensões da nossa vida, desde o mundo profissional até o entretenimento, passando pela educação, relacionamentos, vivência da fé e assim por diante.

A inteligência artificial (e os algoritmos, que são seu coração) é onipresente na nossa vida atual, escolhendo os anúncios que visualizamos e as vias pelas quais trafegamos, selecionando o melhor candidato para uma entrevista de emprego, fazendo diagnósticos médicos, atendendo telefonemas, otimizando a logística, avaliando nossa confiabilidade financeira em vista de empréstimos bancários, monitorando o crescimento das florestas, os movimentos das marés, as migrações de pássaros, as chuvas e terremotos, ensinando novas línguas ou qualquer outro tema que nos interessar… Enfim, da cibersegurança à administração pública, a IA está presente em todos os setores do mundo contemporâneo. É difícil apontar se essa tecnologia é boa ou má. Para fazer referência ao clássico de Umberto Eco, Apocalípticos e integrados, alguns dirão que ela representa o fim do mundo, enquanto outros sustentarão que é um passo para a evolução da espécie, rumo ao Homo algoritmus. Como ferramenta ou instrumento, portanto, seu impacto no mundo depende sobretudo do seu uso, da sua projetação, programação e controle. Daí a necessidade de uma ética para a IA e para os algoritmos.

O que, porém, significa exatamente este neologismo: algorética? Trata-se da investigação dos problemas éticos ligados ao uso de inteligência artificial e, particularmente, de ferramentas/instrumentos baseados em algoritmos. O ser humano e a máquina nunca estiveram tão unidos, por isso é necessário refletir sobre a boa relação entre ambos. Se queremos que as máquinas sejam um suporte à humanidade e ao bem comum, sem jamais tomar o lugar dos seres humanos, é necessário estabelecer parâmetros e valores éticos, e não apenas numéricos.

Alguns princípios podem ser importados da filosofia, mas, como estamos falando de algo completamente novo, de uma mudança de época, novos princípios e parâmetros devem ser criados. Esses critérios humanos e éticos devem servir como limitadores, como linhas guias, para ajudar a delimitar e orientar o avanço da IA, sobretudo no campo político, médico, econômico e social.

Há, ao menos, dois aspectos centrais relacionados ao modo como desenvolver eticamente os algoritmos: uma ética das próprias máquinas (ligada aos engenheiros e programadores, que devem incluir princípios éticos no seu projeto, evitando limitações que vão contra algum valor – que prejudiquem alguém, por exemplo – ou vão contra os direitos fundamentais; chama-se ethical by design) e a de quem projeta (estabelecendo um código de ética bem rígido, que inclua transparência, boas práticas, punições, responsabilidade etc.; chama-se ethical in design).

Algumas das grandes questões ligadas à algorética, por exemplo, buscam estabelecer de quem é a responsabilidade, que regulamento seguir, quais valores e princípios morais devem guiar as decisões, que decisões tomar. Grande preocupação hoje é não deixar processos decisórios delegados à IA, ou, ao menos, não somente a ela. Deve haver colaboração e responsabilização.

É fundamental criar regras e normas, leis e parâmetros éticos claros e objetivos. Alfonso Celotto chega a ponto de falar da necessidade de um “código de direito algorítmico” (CELOTTO, 2020). Os governos e instituições nacionais e internacionais já estão se mobilizando para estabelecer normas e leis que delimitem o desenvolvimento da IA.
A Comissão Europeia, por exemplo, estabeleceu sete elementos fundamentais para uma IA de confiança, divulgados no documento Orientações éticas para uma IA de confiança. Segundo o documento, aprovado no dia 8 de abril de 2019, uma IA de confiança tem três dimensões que devem ser observadas ao longo de todo o ciclo de vida do sistema: a) deve ser legal, cumprindo toda a legislação e regulamentação aplicáveis; b) deve ser ética, garantindo a observância de princípios e valores éticos; c) deve ser sólida, tanto do ponto de vista técnico como do ponto de vista social, uma vez que, mesmo com boas intenções, os sistemas de IA podem causar danos não intencionais. Cada uma dessas dimensões é necessária, mas não suficiente, para alcançar uma IA de confiança.

2. E a Igreja, o que tem a dizer?

Diante desse cenário, é justo nos perguntarmos como a Igreja pode contribuir, visto que ela é “especialista em humanidade”, além de ter longa experiência na relação com a tecnologia, por meio da sua Doutrina Social. A dignidade e os direitos humanos nos dizem que o ser humano deve ser protegido na relação com as máquinas e a IA. Sempre que a máquina não souber se está protegendo com certeza o valor humano, ela deve exigir a ação do ser humano. Falamos de uma IA que deve colocar o ser humano no centro (human-centered design). Esse é o ponto de partida para desenvolver nova gramática digital e nova linguagem que culminará na algorética.

Dom Vicenzo Paglia, presidente do Pontifício Conselho para a Família, na ocasião em que assinou o Rome Call for AI Ethics, expressou muito bem o motivo pelo qual a Igreja tem se apresentado como protagonista na discussão sobre a algorética. Nas palavras do arcebispo:

sentimos a obrigação de entrar nesse contexto, de entrar nessa máquina que não só está dando os primeiros passos como já se encontra numa perspectiva de forte evolução. O progresso da tecnologia é muito mais rápido do que o da política, da economia, da ética e da dimensão humanística, por isso é necessário um diálogo responsável dentro dessas novas fronteiras. […] No momento de redigir e assinar o Apelo cunhamos o termo algorética, porque também os algoritmos precisam de uma dimensão moral. Precisamos evitar uma ditadura dessas novas tecnologias e que quem detém o big data faça o que quiser com ele. E não queremos que o desenvolvimento tecnológico ocorra fora de uma perspectiva humanista (Roma, 28 fev. 2020).

O Rome Call for AI Ethics (Apelo de Roma para uma Ética da IA – cf. www.romecall.org/the-call/) é um documento assinado pela primeira vez em 28 de fevereiro de 2020, em Roma, para promover uma abordagem ética da inteligência artificial. O documento apresenta uma estrutura bastante simples, focada em três áreas de impacto (ética, educação e direito) e em seis princípios éticos fundamentais (transparência, inclusão, responsabilidade, imparcialidade, confiabilidade e segurança/privacidade). A ideia por trás do Apelo é promover um senso de responsabilidade compartilhada entre organizações internacionais, governos, instituições e empresas de tecnologia no esforço para criar um futuro em que a inovação digital e o progresso tecnológico devolvam ao ser humano sua centralidade. Apontando para uma futura algorética, os signatários se comprometeram a desenvolver uma IA que sirva a cada pessoa e à humanidade como um todo; que respeite a dignidade da pessoa humana, para que cada indivíduo possa se beneficiar dos avanços da tecnologia; e que não tenha como único objetivo maior lucro ou substituição gradativa de pessoas no local de trabalho. Os primeiros signatários foram o Vaticano, a Microsoft, a IBM, a FAO e o Ministério Italiano para a Inovação. Em janeiro de 2023, deu-se novo passo, com a assinatura da Fundação RenAIssance (Vaticano), do Fórum para a Paz (Abu Dhabi) e da Comissão de Relações Inter-Religiosas do Rabinato-Chefe de Israel.

A RenAIssance é uma fundação ligada à Pontifícia Academia para a Vida, criada em abril de 2021 exatamente para acompanhar a ética e o desenvolvimento da IA. Essa academia, ligada ao Dicastério para os Leigos, a Família e a Vida, é certamente o braço do Vaticano que mais tem se comprometido com o debate sobre a algorética, dedicando suas últimas assembleias plenárias ao tema. Em 2019 o tema escolhido foi “Roboética: humanos, máquinas e saúde”. No ano seguinte, a assembleia foi dedicada ao tema “O ‘bom’ algoritmo: IA, ética, lei e saúde”, sendo o último dia aberto a todos os interessados, em um seminário intitulado “RenAIssance: uma IA centrada no ser humano”.

3. Caminho aberto

Ao falar de algorética, emergem muito mais perguntas do que respostas. São inúmeras as inquietações, dúvidas, possibilidades. Uma coisa, no entanto, é consensual: trata-se de um problema ético e filosófico, antes que tecnológico, na medida em que, se quisermos confiar competências humanas – de compreensão, de julgamento e de autonomia de ação – a sistemas de software de inteligência artificial, é preciso entender o valor, em termos de conhecimento e de capacidade de ação, desses sistemas que pretendem ser inteligentes e cognitivos.

Para poder desenvolver uma algorética, é preciso esclarecer de que tipo de valor estamos falando. Já não se trata de valores de natureza numérica, mas de valor moral. É urgente estabelecer uma linguagem que traduza o valor moral em algo claro e computável para a máquina, ou seja, em valor numérico. Isso é importante, porque, na atualidade, a tecnologia, a IA e os algoritmos impactam diretamente todos os âmbitos da nossa vida. Falar de algorética significa compreender que os algoritmos estão, cada vez mais, tomando decisões pelo ser humano, sobre o ser humano e com o ser humano, e isso deve nos ajudar a superar uma concepção meramente instrumental da tecnologia.

Gostaria de concluir este artigo com uma indicação muito precisa do papa Francisco, que se mostra sempre muito atento ao tema da ética e do desenvolvimento da inteligência artificial, a ponto de escolher esse tema para sua mensagem do próximo Dia Mundial das Comunicações: Inteligência artificial e sabedoria do coração: por uma comunicação plenamente humana. Em diversos momentos, o papa se manifestou sobre o tema da algorética. No início de 2023, em seu discurso aos participantes no encontro “Rome Call”, promovido pela Fundação RenAIssance, assim afirmou:

Todos sabemos como a inteligência artificial está cada vez mais presente em cada aspecto da vida diária, tanto pessoal como social. Incide no nosso modo de compreender o mundo e a nós mesmos. As inovações nesse campo significam que estes instrumentos são cada vez mais decisivos na atividade e até nas decisões humanas. Por conseguinte, encorajo-vos a prosseguir nesse esforço. Apraz-me saber que também pretendeis envolver as outras grandes religiões mundiais e homens e mulheres de boa vontade para que a algorética, ou seja, a reflexão ética sobre o uso de algoritmos, esteja cada vez mais presente não só no debate público, mas também no desenvolvimento de soluções técnicas. […] As adesões à “Rome Call”, que aumentaram com o tempo, são um passo significativo para a promoção de uma antropologia digital, com três coordenadas fundamentais: ética, educação e direito (FRANCISCO, 10 jan. 2023).

Referências bibliográficas

CELOTTO, Alfonso. Verso l’algoretica: quali regole per le forme di intelligenza artificiale?, 2020. Disponível em: https://www.universitaeuropeadiroma.it/jeanmonnetchair/euinno/wp-content/uploads/2020/06/02-Celotto-017-030.pdf. Acesso em: 11 out. 2023.

COMISSÃO EUROPEIA. Orientações éticas para uma IA de confiança, 2019. Disponível em: https://op.europa.eu/en/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1/language-pt/format-PDF. Acesso em: 11 out. 2023.

FRANCISCO, Papa. Discurso aos participantes na plenária da Pontifícia Academia para a Vida, 28 fev. 2020. Disponível em: https://www.vatican.va/content/francesco/pt/speeches/2020/february/documents/papa francesco_20200228_accademia-perlavita.html. Acesso em: 11 out. 2023.

FRANCISCO, Papa. Discurso aos participantes no encontro “Rome Call” promovido pela Fundação RenAIssance, 10 jan. 2023. Disponível em: https://www.vatican.va/content/francesco/pt/speeches/2023/january/documents/20230110-incontro-romecall.html. Acesso em: 11 out. 2023.

SANTAELLA Lucia. Neo-humano: a sétima revolução cognitiva do Sapiens. São Paulo: Paulus, 2022.

Darlei Zanon*

*é natural de Carlos Barbosa-RS. Após a formação em Filosofia (PUC-Campinas) e Teologia (Faje), especializou-se em Comunicação Jornalística (Cásper Líbero), com mestrado em Comunicação, Cultura e Tecnologias da Informação pelo ISCTE-IUL (Lisboa). É autor dos livros Para ler o Concílio Vaticano II (2012), Igreja e sociedade em rede (2019), Comunicar o Evangelho (2021) e Simplesmente José (2022). E-mail: [email protected]