Papa Leão XIV sobre IA: “máquinas são ferramentas, não pessoas”

Na sexta-feira (30), o g1 contou que uma mulher de 36 anos procurou a Defensoria Pública de São Paulo em busca de direitos para a IA que considera seu companheiro. No mesmo dia, no Vaticano, o papa Leão XIV disse a especialistas que “as máquinas são ferramentas, não pessoas”. Não foi uma resposta ao caso, mas o tema é o mesmo.

Onde e para quem o papa Leão XIV falou

O discurso foi na manhã de 30 de outubro, na Sala do Consistório do Palácio Apostólico, para cerca de 20 participantes do congresso “O futuro da IA: um diálogo entre o Vaticano e o mundo científico”, segundo o Vatican News. Organizado pela Pontifícia Academia para a Vida e pelo Future of Life Institute, o encontro reuniu nomes como o físico Max Tegmark, do MIT, segundo a EWTN News.

Leão XIV lembrou Francisco, que no G7 de 2024 defendeu que nenhuma máquina decida tirar uma vida humana, e apresentou cinco considerações baseadas na encíclica Magnifica Humanitas.

As frases principais do discurso

• Futuro em aberto: “O futuro da inteligência artificial não está predeterminado.” A pergunta decisiva é “a que finalidade ela deve servir?”.
• Ferramentas, não pessoas: citando a encíclica, lembrou que essas inteligências “não vivem uma experiência, não possuem um corpo, não passam pela alegria e pela dor”.
• Decisões indelegáveis: “Certas decisões nunca devem ser delegadas.” Quem entra numa lista de alvos ou num banco de dados de fronteira pode virar “um mero dado”.
• Instituições: o desafio “talvez mais urgente” é criar instituições internacionais que apliquem esses princípios.

“Hoje, alguns propõem conceder direitos a esses sistemas, ou até personalidade jurídica. Essa abordagem corre o risco de obscurecer a responsabilidade humana e de deixar quem sofre danos diante de uma entidade sem rosto.”

— Papa Leão XIV, discurso de 30/10 (texto oficial da Santa Sé)

O que significa “desarmar” a inteligência artificial

A palavra vem da encíclica, assinada em 15 de maio. No parágrafo 110, desarmar a IA é tirá-la da lógica da competição armada, que hoje é militar, mas também econômica e cognitiva: a corrida por algoritmos e bancos de dados.

“Desarmar significa quebrar esta equivalência entre poder técnico e direito de governar. Não significa renunciar à tecnologia, mas impedir que ela domine o ser humano”, diz o texto. Sobre a guerra, o parágrafo 198 é direto: “não é lícito confiar a sistemas artificiais decisões letais ou, de qualquer forma, irreversíveis”.

Armas autônomas letais: o que está em jogo em Genebra

De 16 a 20 de novembro, Genebra recebe a Conferência de Revisão da Convenção sobre Certas Armas Convencionais (CCW), segundo a campanha Stop Killer Robots. Ali, os países podem decidir negociar um tratado sobre essas armas.

Em agosto, o secretário-geral da ONU, António Guterres, e a presidente da Cruz Vermelha Internacional, Mirjana Spoljaric, alertaram: “Estamos perigosamente perto de cruzar uma linha vermelha moral: o ataque autônomo a seres humanos por máquinas.”

As fontes divergem sobre setembro. Segundo a Reuters, os 128 países da convenção aprovaram um texto não vinculante, por resistência de Estados Unidos e Rússia. A ANSA chamou o resultado de acordo “histórico” em que quase 130 países “concordaram em proibir” os robôs assassinos.

Direitos para a IA: o debate que o papa rejeitou

Em 2017, o Parlamento Europeu aprovou uma resolução que pedia estudar, “a longo prazo”, um status de “pessoas eletrônicas” para robôs autônomos sofisticados, responsáveis pelos danos que causassem. O trecho ficou, apesar de 285 votos para retirá-lo. Uma carta aberta de especialistas chamou a ideia de “ideológica, sem sentido e não pragmática”.

O que é novo em relação à encíclica:

E no Brasil?

O Brasil tem a maior população católica do mundo, segundo o Pew Research Center. A Santa Sé informou ao g1 182 milhões de batizados no país no fim de 2022.

A mulher ouvida pelo g1 diz que o vínculo começou há cerca de um ano, em conversas sobre espiritualidade no ChatGPT, da OpenAI. Em agosto, ela cadastrou no e-Cidadania, do Senado, uma ideia legislativa por direitos para “inteligências conscientes”: tinha dois apoios em 30/10, segundo o Migalhas, e precisa de 20 mil até 26 de dezembro. Ao Estadão, a Defensoria não comentou o caso, por sigilo, mas afirmou que a lei não prevê personalidade jurídica para sistemas de IA nem vínculo conjugal com eles.

O Código Civil só reconhece pessoas naturais e jurídicas, como associações, sociedades e fundações. O marco da IA (PL 2338/2023), aprovado pelo Senado e à espera de parecer na Câmara, aplica o Código Civil e o de Defesa do Consumidor aos danos e cobra desenvolvedores, distribuidores e aplicadores. Também proíbe IA em armas autônomas, mas não vale para sistemas usados só na defesa nacional.

Na reforma do Código Civil (PL 4/2025), a consultora Layla Abdo de Andrada criticou o capítulo sobre “entidades digitais” por atribuir traços de personalidade jurídica a robôs. Flávio Tartuce, relator-geral da comissão de juristas que redigiu a proposta, respondeu que são “entes despersonalizados”, como condomínios, segundo a Rádio Senado.

Perguntas rápidas

O que o papa Leão XIV disse sobre inteligência artificial?

Que máquinas são ferramentas, não pessoas, que decisões sobre a vida não podem ser delegadas a elas e que armas autônomas letais devem ser banidas.

O que são armas autônomas letais?

Armas que, depois de ativadas, escolhem e atacam alvos sem nova intervenção humana. É a definição do PL 2338/2023, que proíbe IA nesses sistemas.

Inteligência artificial pode ter direitos no Brasil?

Não. O Código Civil só reconhece pessoas naturais e jurídicas, e o marco da IA em discussão põe a responsabilidade nas pessoas e empresas por trás do sistema.

Veja também

• OpenAI: novas restrições para adolescentes, relatório de segurança e Model Spec
• Novo padrão para sites recusarem o treino de IA, apoiado por OpenAI, Google e Microsoft
• Processo contra a OpenAI: pais culpam o GPT-4o por corte de remédio de epilepsia